我用scrapy框架寫了一個爬中國天氣網的爬取,里面只用了xpath,3000條資料用了30秒。
用BeautifulSoup寫了一個腳本爬蟲,3000條資料只用了3秒。
這中差距是怎么造成的?
uj5u.com熱心網友回復:
你可以看看scrapy-redis,整個分布式的,而且scrapy本身配置里也可以修改引數吧轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/41910.html
上一篇:win10自帶的linux子系統可以安裝CentOS嗎?
下一篇:flutter 的像素尺寸
