我正在嘗試使用 scrapy 來瀏覽幾個不同的 url,但問題是我不想瀏覽它們一次。我希望能夠“永遠”遍歷相同的網址。下面的代碼是我到目前為止所擁有的,但它不起作用,我不知道為什么。
while True:
looptime = time.time() 900
while time.time() < looptime:
for word in words:
url = 'https://myurl.com
yield scrapy.Request(url=url, callback=self.parse)
dosomething()
假設我有 2 個鏈接,一個到 google,一個到 youtube。目前,我的代碼只會通過它們一次然后完成腳本,但期望的結果是一直回圈遍歷相同的 2 個鏈接。所以它會通過谷歌,然后是 Youtube,谷歌,Youtube 等等。謝謝!
uj5u.com熱心網友回復:
添加dont_filter=True到請求中以防止scrapy過濾重復的請求。
看到這個
轉載請註明出處,本文鏈接:https://www.uj5u.com/caozuo/396708.html
