文章詳情頁
我要在命令行同時不間斷地運行八九個python爬蟲程序(爬不同的網站)?
瀏覽:101日期:2022-08-21 18:56:02
問題描述
但是過一段時間總有一兩個程序會無響應,好像是被掛起了,CPU占用率并不高,不到10%,內存占用也不算多,60%左右,爬蟲程序是去批量下載文件,平均每個幾兆到十幾兆。我設置了這幾個程序的優先級高于普通標準,但是還是會出現無響應的狀況。版本 python 2.7
求問:這個問題算不算進程被掛起?以及應該如何解決這個問題?
謝謝!
問題解答
回答1:這種問題得自己調,多打log
回答2:Python 有 GIL
相關文章:
1. python - linux怎么在每天的凌晨2點執行一次這個log.py文件2. 關于mysql聯合查詢一對多的顯示結果問題3. 實現bing搜索工具urlAPI提交4. MySQL主鍵沖突時的更新操作和替換操作在功能上有什么差別(如圖)5. 數據庫 - Mysql的存儲過程真的是個坑!求助下面的存儲過程哪里錯啦,實在是找不到哪里的問題了。6. windows誤人子弟啊7. 冒昧問一下,我這php代碼哪里出錯了???8. 如何用筆記本上的apache做微信開發的服務器9. 我在網址中輸入localhost/abc.php顯示的是not found是為什么呢?10. mysql優化 - MySQL如何為配置表建立索引?
排行榜
