您好, 欢迎来到 !    登录 | 注册 | | 设为首页 | 收藏本站

python – 我如何使用wget下载scrapy文件

5b51 2022/1/14 8:20:49 python 字数 1838 阅读 452 来源 www.jb51.cc/python

scrapy没有正确下载文件.我有我的项目的URL,所以我想我可以使用wget下载文件.如何在scrapy process_item函数中使用wget?或者,还有另一种下载文件的方式吗?class MyImagesPipeline(ImagesPipeline): #Name download version def image_key(se

概述

scrapy没有正确下载文件.我有我的项目的URL,所以我想我可以使用wget下载文件.

如何在scrapy process_item函数中使用wget?或者,还有另一种下载文件的方式吗?

class MyImagesPipeline(ImagesPipeline):
    #Name download version
    def image_key(self,url):
        image_guid = url.split('/')[-1]
        return 'full/%s' % (image_guid)

    def get_media_requests(self,item,info):
        if item['image_urls']:
            for image_url in item['image_urls']:
            # wget -nH image_ul -P  images/
            yield Request(image_url)

import subprocess

    ...

subprocess.call(['wget','-nH',image_url,'-P  images/'])

你可以在这里阅读有关subprocess.call的内容http://docs.python.org/2/library/subprocess.html

总结

以上是编程之家为你收集整理的python – 我如何使用wget下载scrapy文件全部内容,希望文章能够帮你解决python – 我如何使用wget下载scrapy文件所遇到的程序开发问题。


如果您也喜欢它,动动您的小指点个赞吧

除非注明,文章均由 laddyq.com 整理发布,欢迎转载。

转载请注明:
链接:http://laddyq.com
来源:laddyq.com
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。


联系我
置顶