文章詳情頁
python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示
瀏覽：110日期：2022-08-03 11:20:00
問題描述
爬蟲運行時一直是這樣的每一分鐘出現一條這樣的信息，無限循環。不能爬取下來數據
這是redis服務端的顯示
這樣是什么問題，望有高手可以為我解惑，謝謝。
問題解答
回答1：使用scrapy_redis，你要去投放url讓spider去爬取，你投放了嗎？比如
redis-cli lpush myspider:start_urls http://google.com
相關文章：
1. mysql - 如何減少使用或者不用LEFT JOIN查詢？2. 視頻文件不能播放，怎么辦？3. mysql - jdbc的問題4. python - 我在使用pip install -r requirements.txt下載時，為什么部分能下載，部分不能下載5. html5 - H5做的手機分享頁微信更新后，分享出去不再默認顯示第一個圖 作為縮略圖6. python - 編碼問題求助7. linux - python 抓取公眾號文章遇到驗證問題8. mysql - 分庫分表、分區、讀寫分離 這些都是用在什么場景下 ，會帶來哪些效率或者其他方面的好處9. node.js - nodejs開發中常用的連接mysql的庫10. 網頁爬蟲 - python 爬取網站 并解析非json內容
排行榜
網公網安備