对python中大文件的导入与导出方法详解

Python  /  管理员 发布于 7年前   265

1、csv文件的导入和导出

通过一个矩阵导出为csv文件，将csv文件导入为矩阵

将csv文件导入到一个矩阵中

import numpy my_matrix = numpy.loadtxt(open("c:\\1.csv","rb"),delimiter=",",skiprows=0) 

将矩阵导出到本地csv中

numpy.savetxt('new.csv', my_matrix, delimiter = ',') 

未完待续。。。

也可以使用pickle模块，保存的文件是序列化的

python的pickle模块实现了基本的数据序列和反序列化。通过pickle模块的序列化操作我们能够将程序中运行的对象信息保存到文件中去，永久存储；通过pickle模块的反序列化操作，我们能够从文件中创建上一次程序保存的对象。

pickle.dump(obj, file, [,protocol]) 

注解：将对象obj保存到文件file中去。

protocol为序列化使用的协议版本，0：ASCII协议，所序列化的对象使用可打印的ASCII码表示；1：老式的二进制协议；2：2.3版本引入的新二进制协议，较以前的更高效。其中协议0和1兼容老版本的python。protocol默认值为0。

file：对象保存到的类文件对象。file必须有write()接口， file可以是一个以'w'方式打开的文件或者一个StringIO对象或者其他任何实现write()接口的对象。如果protocol>=1，文件对象需要是二进制模式打开的。

pickle.load(file) 

注解：从file中读取一个字符串，并将它重构为原来的python对象。

file：类文件对象，有read()和readline()接口。

保存数据

tmpdatapath = "E:\\data\\u_i_matrix.csv" savefp = open(tmpdatapath,"w")pickle.dump(u_i_mat,savefp)savefp.close();

导入数据

fp_mat = open("E:\\data\\tmpdata\\u_i_matrix.csv","r")rMat = pickle.load(fp_mat)fp_mat.close()

追加：将内容通过print输入到文件中

str=”a string to print to file” f=open(‘out.txt','w') print >>f,str f.close()

以上这篇对python中大文件的导入与导出方法详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持。