av一区二区在线观看_亚洲男人的天堂网站_日韩亚洲视频_在线成人免费_欧美日韩精品免费观看视频_久草视

您的位置:首頁(yè)技術(shù)文章
文章詳情頁(yè)

python - pyspider爬取了接近1G的數(shù)據(jù),無(wú)法導(dǎo)出csv?

瀏覽:114日期:2022-08-09 10:42:46

問(wèn)題描述

已經(jīng)增加虛擬機(jī)內(nèi)存至2g,依然無(wú)法導(dǎo)出。

問(wèn)題解答

回答1:

一般是分文件導(dǎo)出的,如果一個(gè)單位的數(shù)據(jù)大約是1M的話,就分成1024個(gè)文件。

另外,合成1G的csv也是不合實(shí)際的,因?yàn)?G的csv幾乎是打不開(kāi)的。如果實(shí)在是要合成1G的話,把導(dǎo)出的一千多個(gè)文件再合成為一份CSV即可,文件合成python很容易實(shí)現(xiàn)。

回答2:

1G的數(shù)據(jù)月CSV處理本身就不太合理了。試試看sqlite3。

回答3:

8G一樣不夠,建議選擇數(shù)據(jù)庫(kù)作為存儲(chǔ)方案,1G規(guī)模的CSV是沒(méi)有存在的意義的。

回答4:

用ftp內(nèi)網(wǎng)下載飛快.我前兩天傳8個(gè)g.感覺(jué)就是幾分鐘就下載好了

標(biāo)簽: Python 編程
主站蜘蛛池模板: 国产福利网站 | 国产成人影视 | 亚洲av毛片成人精品 | 亚洲视频在线一区 | 精品福利一区 | 成人在线网 | 成人爽a毛片一区二区免费 www.欧美精品 | 日日爱视频 | www.粉色视频在线观看 | 国产一区在线视频 | 欧美精品色 | www.夜夜骑 | 亚洲欧美日韩国产精品 | 欧美激情一二三区 | 一本久久道 | 久久久久国产一区二区三区 | 欧美久久久久久久 | 在线中文字幕视频 | 久久精品毛片 | 日韩欧美国产综合 | 91看片在线 | 国产一区二区精品丝袜 | 欧美日韩免费在线观看 | 国产精品美女久久 | 成人在线观看网站 | 精品欧美黑人一区二区三区 | 羞羞网站在线观看 | 亚洲 欧美 综合 | 欧美一级欧美三级在线观看 | 久久久久久国产精品 | 久久这里有精品 | 中文字幕在线看片 | 香蕉在线观看视频 | 国产在线不卡视频 | 98国产精品| 欧美性色网 | 午夜精品视频在线观看 | 欧美一区在线视频 | 国产欧美日韩在线观看 | 免费一级片 | 欧美性影院 |