解決python 使用openpyxl讀寫大文件的坑
由于需要處理xlsx類型的文件,我使用了openpyxl來處理,然而文件比較大,大約有60多MB。讀文件的時候雖然慢了一點,但還是能夠讀出來,但是當(dāng)我想寫入時卻報錯了。
顯示設(shè)備沒有多余的空間,百度了一下,發(fā)現(xiàn)有不少關(guān)于openpyxl讀寫大文件的問題??偨Y(jié)來看,解決方案主要有以下兩種,當(dāng)然,我兩種都用上了。
手動釋放內(nèi)存del wb, wsgc.collect()
這一招還算有用,在讀完文件后可以看到內(nèi)存占用明顯下降了一點。
安裝lxml使用命令·pip install lxml安裝依賴
這個依賴并非必須安裝的依賴,但是可以使openpyxl流式處理數(shù)據(jù)。
總之使用了以上兩種方案后,終于可以成功處理數(shù)據(jù)了。
補充:openpyxl讀取大文件的若干問題
需要編寫一個EXCEL文件對比工具
excel文件通常8MB,300張左右的表,每張表實際范圍為ZZ500.
使用openpyxl對表格進行遍歷,完成兩個表之間的對比,找出公式不相同的單元格編程中遇到若干問題
1、讀取時報錯,錯誤代碼忘記了,原因是通過數(shù)組的方式讀取了一個不存在的數(shù)值如 SS[’AA’],這個數(shù)值沒有定義,因此報錯(PHP直接返回空值),使用SS.get(’AA’,null)進行修改
D:Python34Libsite-packagesopenpyxlreaderstyle.py
164: format_code = builtin_formats.get(numFmtId,’General’)2、讀取時內(nèi)存占用過大
基本就是內(nèi)存占用了2G以上以后,程序就不動了,原因是某些表格的表格范圍識別的非常大,最大可為ZZ65535
通過研究,代碼進行了如下修改
1:使用X64版本,X64版本在運行時,可以運行4G以內(nèi)內(nèi)存占用的程序,比2G大一倍,能夠完成大部分表格的讀取,如ZZ5000,但是遇到ZZ65535范圍的表格,內(nèi)存占用達到了4G+,也會導(dǎo)致程序停止運行.
2:限制最大單元格遍歷范圍,最大限制為ZZ5000,能夠有效降低內(nèi)存占用
3:定時重新讀取EXCEL文件(如每對比30張表),釋放內(nèi)存,(Python內(nèi)存釋放真的很痛苦,全部是指針引用,A=B,DEL A;是不會釋放空間的,要DEL B才行).
4:雖然openpyxl讀取文件時有個只讀模式(性能模式),但是速度實在是太慢了.
通過代碼修改,現(xiàn)在完成文件對比所用的內(nèi)存通常在2G以內(nèi)
以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。如有錯誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章:
1. Python+unittest+requests 接口自動化測試框架搭建教程2. Java GZip 基于內(nèi)存實現(xiàn)壓縮和解壓的方法3. jsp+servlet簡單實現(xiàn)上傳文件功能(保存目錄改進)4. 存儲于xml中需要的HTML轉(zhuǎn)義代碼5. Springboot 全局日期格式化處理的實現(xiàn)6. 利用CSS制作3D動畫7. 一款功能強大的markdown編輯器tui.editor使用示例詳解8. .Net加密神器Eazfuscator.NET?2023.2?最新版使用教程9. SpringBoot+TestNG單元測試的實現(xiàn)10. PHP利用COM對象訪問SQLServer、Access
