文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽:91日期:2022-06-27 11:03:29
問題描述
我有很多spider,不能每次調試都手動創建一個debugger吧(scrapy crawl spider_name)
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1:參考文章:Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中,加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個py文件,用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章:
1. javascript - 求救!網頁播放視頻只有聲音沒有畫面,網頁上傳視頻文件時怎么知道視頻的編碼為H264還是MPEG4??2. css - 請問B站頂部的模糊半透明導航條是怎么實現的呢?3. 推薦好用mysql管理工具?for mac和pc4. pdo - mysql 簡單注入疑問5. 雙擊安裝程序,安裝不了6. form表單中的label標簽7. python - 如何用pandas處理分鐘數據變成小時線?8. javascript - dropload+tab頁面,圖文頁滾動有兩個滾動區域怎么破?9. Python中使用超長的List導致內存占用過大10. 隨機數 - 有沒有用Python生成n個不重復隨機坐標的算法?
排行榜
