python-linecache模块读取文件用法

err23211

linecache模块允许从任何文件里得到任何的行，并且使用缓存进行优化，常见的情况是从单个文件读取多行。


1、linecache.getlines(filename)

从名为filename的文件中得到全部内容，输出为列表格式，以文件每行为列表中的一个元素,并以linenum-1为元素在列表中的位置存储


2、linecache.getline(filename,lineno)

从名为filename的文件中得到第lineno行。这个函数从不会抛出一个异常–产生错误时它将返回”（换行符将包含在找到的行里）。

如果文件没有找到，这个函数将会在sys.path搜索。


3、linecache.clearcache()

清除缓存。如果你不再需要先前从getline()中得到的行


4、linecache.checkcache(filename)

检查缓存的有效性。如果在缓存中的文件在硬盘上发生了变化，并且你需要更新版本，使用这个函数。如果省略filename，将检查缓存里的所有条目。


5、linecache.updatecache(filename)

更新文件名为filename的缓存。如果filename文件更新了，使用这个函数可以更新linecache.getlines(filename)返回的列表。


用法举例：

# cat a.txt

1a

2b

3c

4d

5e

6f

7g


(1)、获取a.txt文件的内容

>>> a=linecache.getlines('a.txt')

>>> a

['1a\n', '2b\n', '3c\n', '4d\n', '5e\n', '6f\n', '7g\n']


(2)、获取a.txt文件中第1-4行的内容

>>> a=linecache.getlines('a.txt')[0:4]

>>> a

['1a\n', '2b\n', '3c\n', '4d\n']


(3)、获取a.txt文件中第4行的内容

>>> a=linecache.getline('a.txt',4)

>>> a

'4d\n'


注意：使用linecache.getlines('a.txt')打开文件的内容之后，如果a.txt文件发生了改变，如你再次用linecache.getlines获取的内容，不是文件的最新内容，还是之前的内容，此时有两种方法：

1、使用linecache.checkcache(filename)来更新文件在硬盘上的缓存，然后在执行linecache.getlines('a.txt')就可以获取到a.txt的最新内容；

2、直接使用linecache.updatecache('a.txt')，即可获取最新的a.txt的最新内容


另：读取文件之后你不需要使用文件的缓存时需要在最后清理一下缓存，使linecache.clearcache()清理缓存，释放缓存。


这个模块是使用内存来缓存你的文件内容，所以需要耗费内存，打开文件的大小和打开速度和你的内存大小有关系。
自己测试的450M文件执行时间，还是open()方法快些，大于1G文件，使用linecache.getlines()方法更好，代码如下：
###使用linecache.getlines方法###
$cat read_file.py
#!/usr/bin/env python
#coding:utf8
import os,linecache,time
def get_content(file):
    content=''
    cache_data=linecache.getlines(file)
    for line in range(len(cache_data)):
        content+=cache_data[line]

    return content

def main():
    file='/opt/file_operate/ibdata1'
    content=get_content(file)
    print content

    linecache.clearcache()
if __name__=='__main__':
    starttime=time.clock()  
    main()
    endtime=time.clock()
    print "total time: %s" %(endtime-starttime)
###使用open()方法###

$cat read_file1.py
#!/usr/bin/env python
#coding:utf8
import time
def read_file(file):
    fo=open(file,'r')
    f=open('/opt/file_operate/c.txt','w')
    for line in fo.readlines():
        f.write(line)
    fo.close()
    f.close()
if __name__=='__main__':
    starttime=time.clock()
    read_file('/opt/file_operate/ibdata1')
    endtime=time.clock()
    print "total time: %s" %(endtime-starttime)

备注：借鉴伟哥的blog部分内容