文章詳情頁
python - 請教如何爬取簡書某一時(shí)間段發(fā)帖。
瀏覽：110日期：2022-07-11 10:45:01
問題描述
我想爬取簡書在某一時(shí)間段的帖子，比如 2013 年 4 月 13 — 2013 年 5 月 13
想嘗試的思路如下：
百度
利用百度的 site 語法
限定日期 
觀察大約有 70 個(gè)帖子 
google 的 site 語法
限定日期 
觀察大約有 120 個(gè)帖子 
實(shí)現(xiàn)：用 Python 直接請求搜索的結(jié)果，然后把得到的網(wǎng)址重定向一下得到真正的簡書網(wǎng)址，然后對真正的網(wǎng)址進(jìn)行請求
問題
用這種方法得到的結(jié)果是否靠譜？請問有更靠譜的方法嗎？
用 Google 還是用百度呢？
問題解答
回答1：為了全面，你可以把主流的搜索引擎接口都拿來用，不一定要限制在某個(gè)搜索引擎接口上。我們有隊(duì)友搜索某些話題就是這么干的，因?yàn)橛械木W(wǎng)站站內(nèi)沒提供滿足需求的搜索方式，這個(gè)時(shí)候也只有借助搜索引擎了。不過通過搜索引擎搜索的方式信息可能不全面，robots協(xié)議規(guī)定了不能搜索的，搜索引擎不會(huì)收錄
相關(guān)文章：
1. javascript - 微信網(wǎng)頁開發(fā)從菜單進(jìn)入頁面后，按返回鍵沒有關(guān)閉瀏覽器而是刷新當(dāng)前頁面，求解決？2. 視頻文件不能播放，怎么辦？3. mysql - 分庫分表、分區(qū)、讀寫分離 這些都是用在什么場景下 ，會(huì)帶來哪些效率或者其他方面的好處4. mysql - jdbc的問題5. node.js - nodejs開發(fā)中常用的連接mysql的庫6. mysql replace 死鎖7. mysql - 把一個(gè)表中的數(shù)據(jù)count更新到另一個(gè)表里?8. mysql - 如何減少使用或者不用LEFT JOIN查詢？9. 老師您的微信號是多少？10. mysql - 字符串根據(jù)字典替換
排行榜
熱門標(biāo)簽
網(wǎng)公網(wǎng)安備