文章詳情頁
python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示
瀏覽:131日期:2022-08-03 11:20:00
問題描述
爬蟲運行時一直是這樣的每一分鐘出現一條這樣的信息,無限循環。不能爬取下來數據
這是redis服務端的顯示
這樣是什么問題,望有高手可以為我解惑,謝謝。
問題解答
回答1:使用scrapy_redis,你要去投放url讓spider去爬取,你投放了嗎?比如
redis-cli lpush myspider:start_urls http://google.com
相關文章:
1. javascript - axios請求回來的數據組件無法進行綁定渲染2. javascript - js輸入框限定字數問題3. 為什么學習PHP4. Python中使用超長的List導致內存占用過大5. pdo - mysql 簡單注入疑問6. python - 關于爬取網站,下載圖片的時候碰到網址結構問題卡住7. android - 微信登陸不回調問題8. 為什么autoloader.php文件能知道 $className 代表test9. javascript - vue項目里的package.json10. node.js - win7下,npm 無法下載依賴包,淘寶鏡像也裝不上,求幫忙???
排行榜
