• 技术文章 >Python技术 >Python基础教程

    按行读取内存不够?如何用python解决?

    小P小P2020-10-23 11:53:30原创2449
    当我们需要读取一个较大的文件,但是电脑的内存比较小怎么办?要是小文件又该怎么办?今天就为大家带来几个按行读取文件在Python如何巧妙解决的办法。

    第一种:readline()

    file = open("sample.txt") while 1: line = file.readline() if not line: break pass # do somethingfile.close()

    一行行得从文件读数据,这样是比较慢的,但是节约内存;

    测试读10M的sample.txt文件,每秒大约读32000行;

    第二种:fileinput

    import fileinput for line in fileinput.input("sample.txt"): pass

    写法稍微简单,不过测试以后发现每秒只能读13000行数据,效率上比上一种方法慢了两倍多;

    第三种:readlines()

    file = open("sample.txt") while 1: lines = file.readlines(100000) if not lines: break for line in lines: pass # do something file.close()

    用同样的数据测试,它每秒可以读96900行数据。效率是第一种方法的3倍,第二种方法的7倍。

    第四种:文件迭代器

    每次只读取和显示一行,读取大文件时如下:

    file = open("sample.txt") for line in file: pass # do something file.close()

    以上就是Python中按行读取目录下文件名的一些方法,需要的小伙伴可以参考下。

    专题推荐:python按行读取内存
    上一篇:Python实用方法之读取本地文件 下一篇:在linux中Python环境变量的设置

    相关文章推荐

    • 什么是网络协议• python中的去除重复项的操作• python中少见的函数map()和partial()• python的sort()排序方法• Python中的文件读写-理论知识

    全部评论我要评论

    © 2021 Python学习网 苏ICP备2021003149号-1

  • 取消发布评论
  • 

    Python学习网