位置: 编程技术 - 正文

利用Python读取文件的四种不同方法比对(利用python读取文件)

编辑:rootadmin

推荐整理分享利用Python读取文件的四种不同方法比对(利用python读取文件),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python读取文件的操作方法,python如何读取文件中的数据,python读取文本文件的方法,python读取文本文件的方法,python读取文本文件的方法,python读取文件的操作方法,利用python读取文件,利用python读取文件,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

大家都知道Python 读文件的方式多种多样,但是当需要读取一个大文件的时候,不同的读取方式会有不一样的效果。下面就来看看详细的介绍吧。

场景

逐行读取一个 2.9G 的大文件

CPU i7 HQ RAM G

方法

对每一行的读取进行一次分割字符串操作

以下方法都使用 with…as 方法打开文件。

with 语句适用于对资源进行访问的场合,确保不管使用过程中是否发生异常都会执行必要的“清理”操作,释放资源,比如文件使用后自动关闭、线程中锁的自动获取和释放等。

方法一 最通用的读文件方式

运行结果: 耗时 . 秒

利用Python读取文件的四种不同方法比对(利用python读取文件)

系统监视器中显示内存从 4.8G 一下子飙到了 8.4G, fh.readlines() 将读取的所有行数据存到内存,这种方法适合小文件。

方法二

运行结果: 耗时 . 秒

内存几乎没有变化,因为内存中只存取一行的数据,但是时间明显比上一次的长,对于进一步处理数据来说效率不高。

方法三

运行结果: 耗时 . 秒

内存几乎没有变化,速度也比方法二快。

for line in fh 将文件对象 fh 视为可迭代的,它自动使用缓冲的 IO 和内存管理,因此您不必担心大文件。这是很 pythonic 的方式!

方法四 fileinput 模块

运行结果: 耗时 . 秒

内存增加了 - MB,速度是以上最慢的。

总结

以上方法仅供参考,公认的大文件读取方法还是三最好。但是具体情况还是要根据机器的性能、处理数据的复杂度。

好了,

标签: 利用python读取文件

本文链接地址:https://www.jiuchutong.com/biancheng/375492.html 转载请保留说明!

上一篇:Python爬虫实现网页信息抓取功能示例【URL与正则模块】(python3网络爬虫)

下一篇:利用python微信库itchat实现微信自动回复功能(python appium 微信)

  • 全额抵扣的发票怎么申报增值税
  • 缴纳个人所得税怎么算
  • 建筑发票开具与土增税扣有什么关系?
  • 农产品一般纳税人开普票免税吗
  • 免抵税额什么时候缴纳城建税
  • 银行承兑汇票到期日期怎么算
  • 无形资产建造期间的摊销记在哪里
  • 水泥企业销售收入比例
  • 在建工程账务处理流程
  • 工程收到奖励款怎么账务处理?
  • 冲销成本结转需要什么凭证
  • 顺流交易为什么不管是否出售
  • 免单计入什么科目
  • 食堂收取单位餐费需要开发票吗?
  • 去年漏记一笔银行付款怎么办
  • 辅导期一般纳税人预缴增值税
  • 应收未收的利息如何处理
  • 收取线路维护费合法吗
  • 行政事业单位国有资产处置收入包括
  • 废旧物品回收是做什么的
  • 样品开发费用怎么记账
  • 小规模纳税人印花税怎样计算
  • bios如何设置光盘启动项
  • PHP:Memcached::setMulti()的用法_Memcached类
  • PHP:pg_last_error()的用法_PostgreSQL函数
  • wordpress测试
  • 财务如何核对会计信息
  • 个人将房产过户到一人有限公司交什么税
  • vite中文网
  • axios入门
  • node js 安装
  • java实现电子发票
  • php框架基础教程
  • netbeans for php
  • thinkphp如何连接数据库
  • 可予税前扣除的合理部分
  • 公司的一项专利多少钱
  • 软件开发企业如何计算利润
  • 怎么解决食堂拥挤问题
  • python分布式执行框架Ray的介绍
  • 帝国cms什么语言
  • 织梦自定义表单diy.php更改名字
  • 餐饮发票数量单价都填0可以用吗
  • 房产原值是含税还是不含税
  • 长期待摊费用的账务处理
  • 可变现净值属于会计计量属性吗
  • 核定征收企业所得税的小型微利企业不得享受优惠政策
  • 一年的房租费摊销的账务处理
  • 企业公司怎么申请
  • sql查询服务器硬件信息
  • mysql常用命令有哪些
  • 主营业务收入和营业外收入均属于收入
  • 用于福利费的增值税账务处理
  • 投资性房地产累计摊销
  • 合并资产负债表与母公司资产负债表要看那一个好
  • 合并报表时存货公允与账面的差额
  • 其他业务收入如何填写申报表
  • 一般纳税人进项票是普票可以抵扣吗
  • 如何确定费用归属哪个部门
  • 房地产公司支付工程款账务处理
  • 工程物资盘盈为什么冲减在建工程
  • sqlserver的游标
  • sql必学必会
  • vmware虚拟机怎么改用户名
  • 修改注册表优化Win10
  • centos为什么没有桌面
  • win10更新后出现windows.old
  • win7系统里面怎么找到微信程序
  • material design设计
  • AddForceAtPosition方法:增加刚体点作用力
  • javascript的描述
  • js实现时间
  • shell正则表达式语法
  • shell脚本 -ne 0
  • 简要说明javascript的作用
  • android使用红杏代理更新sdk
  • 带酒回国需要申报吗
  • 供暖企业所涉及的行业
  • 税务监察室具体工作内容
  • 增值税发票如何红冲
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设