av一区二区在线观看_亚洲男人的天堂网站_日韩亚洲视频_在线成人免费_欧美日韩精品免费观看视频_久草视

您的位置:首頁技術文章
文章詳情頁

python 爬取百度文庫并下載(免費文章限定)

瀏覽:44日期:2022-07-03 13:33:25

import requestsimport reimport jsonimport ossession = requests.session()def fetch_url(url): return session.get(url).content.decode(’gbk’)def get_doc_id(url): return re.findall(’view/(.*).html’, url)[0]def parse_type(content): return re.findall(r'docType.*?:.*?’(.*?)’,', content)[0]def parse_title(content): return re.findall(r'title.*?:.*?’(.*?)’,', content)[0]def parse_doc(content): result = ’’ url_list = re.findall(’(https.*?0.json.*?)x22}’, content) url_list = [addr.replace('/', '/') for addr in url_list] for url in url_list[:-5]: content = fetch_url(url) y = 0 txtlists = re.findall(’'c':'(.*?)'.*?'y':(.*?),’, content) for item in txtlists: if not y == item[1]:y = item[1]n = ’n’ else:n = ’’ result += n result += item[0].encode(’utf-8’).decode(’unicode_escape’, ’ignore’) return resultdef parse_txt(doc_id): content_url = ’https://wenku.baidu.com/api/doc/getdocinfo?callback=cb&doc_id=’ + doc_id content = fetch_url(content_url) md5 = re.findall(’'md5sum':'(.*?)'’, content)[0] pn = re.findall(’'totalPageNum':'(.*?)'’, content)[0] rsign = re.findall(’'rsign':'(.*?)'’, content)[0] content_url = ’https://wkretype.bdimg.com/retype/text/’ + doc_id + ’?rn=’ + pn + ’&type=txt’ + md5 + ’&rsign=’ + rsign content = json.loads(fetch_url(content_url)) result = ’’ for item in content: for i in item[’parags’]: result += i[’c’].replace(’r’, ’r’).replace(’n’, ’n’) return resultdef parse_other(doc_id): content_url = 'https://wenku.baidu.com/browse/getbcsurl?doc_id=' + doc_id + '&pn=1&rn=99999&type=ppt' content = fetch_url(content_url) url_list = re.findall(’{'zoom':'(.*?)','page'’, content) url_list = [item.replace('', ’’) for item in url_list] if not os.path.exists(doc_id): os.mkdir(doc_id) for index, url in enumerate(url_list): content = session.get(url).content path = os.path.join(doc_id, str(index) + ’.jpg’) with open(path, ’wb’) as f: f.write(content) print('圖片保存在' + doc_id + '文件夾')def save_file(filename, content): with open(filename, ’w’, encoding=’utf8’) as f: f.write(content) print(’已保存為:’ + filename)# test_txt_url = ’https://wenku.baidu.com/view/cbb4af8b783e0912a3162a89.html?from=search’# test_ppt_url = ’https://wenku.baidu.com/view/2b7046e3f78a6529657d5376.html?from=search’# test_pdf_url = ’https://wenku.baidu.com/view/dd6e15c1227916888586d795.html?from=search’# test_xls_url = ’https://wenku.baidu.com/view/eb4a5bb7312b3169a551a481.html?from=search’def main(): url = input(’請輸入要下載的文庫URL地址’) content = fetch_url(url) doc_id = get_doc_id(url) type = parse_type(content) title = parse_title(content) if type == ’doc’: result = parse_doc(content) save_file(title + ’.txt’, result) elif type == ’txt’: result = parse_txt(doc_id) save_file(title + ’.txt’, result) else: parse_other(doc_id)if __name__ == '__main__': main()

爬取結果

python 爬取百度文庫并下載(免費文章限定)

以上就是python 爬取百度文庫并以圖片方式下載(vip文章也可以爬)的詳細內容,更多關于python 爬取百度文庫的資料請關注好吧啦網(wǎng)其它相關文章!

標簽: 百度 Python
相關文章:
主站蜘蛛池模板: 成人在线国产 | 国产高清精品一区二区三区 | av免费网站在线观看 | 久久亚洲综合 | 日韩欧美视频 | 韩国主播午夜大尺度福利 | 国产午夜精品一区二区三区 | 午夜电影网 | 国产一区二区三区免费 | 国产精品国产精品国产专区不卡 | 在线观看视频h | 欧美日韩综合视频 | 香蕉二区 | 欧美一区二区在线观看 | 亚洲精品乱码久久久久久蜜桃 | 中文字字幕在线中文乱码范文 | 日韩h| 成人免费一区二区三区视频网站 | 99tv| 日韩精品免费 | 日本又色又爽又黄的大片 | 日韩成人在线免费视频 | 韩日精品在线观看 | 91精品久久久久久久 | 免费国产网站 | 国产高清在线精品 | 色欧美片视频在线观看 | 精品久久香蕉国产线看观看亚洲 | a级黄色毛片免费播放视频 国产精品视频在线观看 | a级免费观看视频 | 懂色tv | 成年人视频在线免费观看 | 久久不射电影网 | av一区二区三区四区 | 亚洲小视频 | 高清视频一区二区三区 | 日本国产一区二区 | 男女深夜网站 | 天天操网 | 福利在线观看 | 一区在线视频 |