av一区二区在线观看_亚洲男人的天堂网站_日韩亚洲视频_在线成人免费_欧美日韩精品免费观看视频_久草视

您的位置:首頁技術文章
文章詳情頁

Python爬蟲防封ip的一些技巧

瀏覽:77日期:2022-07-14 18:18:34

在編寫爬蟲爬取數據的時候,因為很多網站都有反爬蟲措施,所以很容易被封IP,就不能繼續爬了。在爬取大數據量的數據時更是瑟瑟發抖,時刻擔心著下一秒IP可能就被封了。

本文就如何解決這個問題總結出一些應對措施,這些措施可以單獨使用,也可以同時使用,效果更好。

偽造User-Agent

在請求頭中把User-Agent設置成瀏覽器中的User-Agent,來偽造瀏覽器訪問。比如:

headers ={’User-Agent’:’Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.116 Safari/537.36’} resp = requests.get(url,headers = headers)

還可以先收集多種瀏覽器的User-Agent,每次發起請求時隨機從中選一個使用,可以進一步提高安全性:

Python爬蟲防封ip的一些技巧

把上面隨機選擇一個User-Agent的代碼封裝成一個函數:

Python爬蟲防封ip的一些技巧

在每次重復爬取之間設置一個隨機時間間隔

比如:

time.sleep(random.randint(0,3)) # 暫停0~3秒的整數秒,時間區間:[0,3]

或:

time.sleep(random.random()) # 暫停0~1秒,時間區間:[0,1)

偽造cookies

若從瀏覽器中可以正常訪問一個頁面,則可以將瀏覽器中的cookies復制過來使用,比如:

Python爬蟲防封ip的一些技巧

注:用瀏覽器cookies發起請求后,如果請求頻率過于頻繁仍會被封IP,這時可以在瀏覽器上進行相應的手工驗證(比如點擊驗證圖片等),然后就可以繼續正常使用該cookies發起請求。

使用代理

可以換著用多個代理IP來進行訪問,防止同一個IP發起過多請求而被封IP,比如:

附:GitHub上的一個'反反爬蟲'項目

道高一尺魔高一丈,你有反爬蟲措施,那我也有各種'反反爬蟲'的措施,GitHub上就有一位大神專門整理了一個這樣的項目:Anti-Anti-Spider,鏈接地址為:github.com/luyishisi/An可以研究一下。

以上就是Python爬蟲防封ip的一些技巧的詳細內容,更多關于Python爬蟲防封ip的資料請關注好吧啦網其它相關文章!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 久久午夜精品 | 日韩喷潮 | 日韩成人在线网站 | 欧美一级免费片 | 国产免费黄网 | 亚洲黄色在线免费观看 | 在线观看涩涩视频 | 男女网站视频 | 欧美视频第二页 | 欧美精品一区二区三区在线播放 | 欧美成人免费在线视频 | 亚洲1区| 久久小视频 | 精品国产一区二区三区久久久四川 | 欧美国产日韩精品 | 99久久精品免费看国产免费软件 | 久久精品欧美一区二区三区不卡 | 久久婷婷麻豆国产91天堂 | 一级毛片视频 | 精品国产一区一区二区三亚瑟 | 一区二区精品 | 国产精品久久精品 | 天天搞天天搞 | 国产9 9在线 | 中文 | 2019天天干天天操 | 精品久久一区二区 | 午夜视频免费网站 | 毛片网站在线观看视频 | 欧洲成人免费视频 | 美女爽到呻吟久久久久 | 国产成人精品一区二区在线 | 粉嫩一区二区三区性色av | 高清国产一区二区 | 久久久久久久av麻豆果冻 | 91视频在线观看 | 免费的av网站 | 国产成人精品在线 | 精品久久久久久久久久久久久久 | 国内自拍视频在线观看 | 国产成人精品免高潮在线观看 | 国产综合视频 |