如何使scrapy爬取信息不打印在命令窗口中

avatar 2020年1月12日18:30:48 评论 1,662

加入VIP,可以享受无广告视频播放!更可享受教程提前看!详情猛戳:VIP介绍

通常,我们使用这条命令运行自己的scrapy爬虫:

scrapy crawl spider_name

但是,由这条命令启动的爬虫,会将所有爬虫运行中的debug信息及抓取到的信息打印在运行窗口中。很乱,也不方便查询。所以,可使用该命令代替:

scrpay crawl spider_name  -s LOG_FILE=all.log

就会将原本打印在窗口的所有信息保存在all.log的文件里了。可以在项目根目录中找到该文件,查看所有爬取信息。

 

原文链接:

https://blog.csdn.net/Cristal_tina/article/details/53739378

 

感谢大家的收看,我们下期再见!

avatar

发表评论

您必须才能发表评论!