文章詳情頁
python - 請教如何爬取簡書某一時間段發帖。
瀏覽:130日期:2022-07-11 10:45:01
問題描述
我想爬取簡書在某一時間段的帖子,比如 2013 年 4 月 13 — 2013 年 5 月 13
想嘗試的思路如下:
百度
利用百度的 site 語法
限定日期
觀察大約有 70 個帖子
google 的 site 語法
限定日期
觀察大約有 120 個帖子
實現:用 Python 直接請求搜索的結果,然后把得到的網址重定向一下得到真正的簡書網址,然后對真正的網址進行請求
問題
用這種方法得到的結果是否靠譜?請問有更靠譜的方法嗎?
用 Google 還是用百度呢?
問題解答
回答1:為了全面,你可以把主流的搜索引擎接口都拿來用,不一定要限制在某個搜索引擎接口上。我們有隊友搜索某些話題就是這么干的,因為有的網站站內沒提供滿足需求的搜索方式,這個時候也只有借助搜索引擎了。不過通過搜索引擎搜索的方式信息可能不全面,robots協議規定了不能搜索的,搜索引擎不會收錄
相關文章:
1. bootstrp是col-md-12列的,只有col-md-10有內容,可以讓沒有內容的不占據位置嗎;2. wordpress里,這樣的目錄列表是屬于小工具還是啥?3. 常量在外面不加引號會報錯。4. mysql federated引擎無法開啟5. 百度地圖 - Android app中準備接入地圖sdk,百度VS高德哪個好一點?6. 我的怎么不顯示啊,話說有沒有QQ群什么的7. sublime text3安裝package control失敗8. python 3.4 error: Microsoft Visual C++ 10.0 is required9. android - Genymotion 微信閃退 not find plugin.location_google.GoogleProxyUI10. MySQL 使用 group by 之后然后 IFNULL(COUNT(*),0) 為什么還是會獲得 null
排行榜
