python读取文本文件数据

本文要点刚要:

(一)读文本文件格式的数据函数:read_csv,read_table

1.读不同分隔符的文本文件,用参数sep

2.读无字段名(表头)的文本文件 ,用参数names

3.为文本文件制定索引,用index_col

4.跳行读取文本文件,用skiprows

5.数据太大时需要逐块读取文本数据用chunksize进行分块。

(二)将数据写成文本文件格式函数:to_csv

范例如下:

(一)读取文本文件格式的数据集

1.read_csv和read_table的区别:

 #read_csv默认读取用逗号分隔符的文件,不需要用sep来指定分隔符

import pandas as pdpd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.csv‘)

 

#read_csv如果读的是用非逗号分隔符的文件,必须要用sep指定分割符,不然读出来的是原文件的样子,数据没被分割开
import pandas as pd
pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘)

  

#与上面的例子可以对比一下区别
import pandas as pd
pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘)

  

#read_table读取文件时必须要用sep来指定分隔符,否则读出来的数据是原始文件,没有分割开。
import pandas as pd
pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.csv‘)

 

#read_table读取数据必须指定分隔符
import pandas as pd
pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘)

  

2.读取文本文件时不用header和names指定表头时,默认第一行为表头

#用header=None表示数据集没有表头,会默认用阿拉伯数字填充表头和索引
pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘,header=None)

  

#用names可以自定义表头
pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘,                    names=[‘x1‘,‘x2‘,‘x3‘,‘x4‘,‘x5‘])

 

3.默认用阿拉伯数字指定索引;用index_col指定某一列作为索引

names=[‘x1‘,‘x2‘,‘x3‘,‘x4‘,‘x0‘]
pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘,
                   names=names,index_col=‘x0‘)

  

4.以下示例是用skiprows将hello对应的行跳过后读取其他行数据,不管首行是否作为表头,都是将表头作为第0行开始数

可以对比一下三个例子的区别进行理解

pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data1.txt‘)

names=[‘x1‘,‘x2‘,‘x3‘,‘x4‘,‘x0‘]
pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data1.txt‘,names=names,
            skiprows=[0,3,6])

  

pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data1.txt‘,
            skiprows=[0,3,6])

  

pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data1.txt‘,header=None,
            skiprows=[0,3,6])

  

5.分块读取,data1.txt中总共8行数据,按照每块3行来分,会读3次,第一次3行,第二次3行,第三次1行数据进行读取。

注意这里在分块的时候跟跳行读取不同的是,表头没作为第一行进行分块读取,可通过一下两个例子对比进行理解。

chunker = pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data1.txt‘,chunksize=3)
for m in chunker:
    print(len(m))
    print m

  

chunker = pd.read_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data1.txt‘,header=None,
                      chunksize=3)
for m in chunker:
    print(len(m))
    print m

  

(二)将数据写入文本格式用to_csv

以data.txt为例,注意写出文件时,将索引也写入了

data=pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘)
print data

  

#可以用index=False禁止索引的写入。
data=pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘)
data.to_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\outdata.txt‘,sep=‘!‘,index=False)

  

#可以用columns指定写入的列
data=pd.read_table(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\data.txt‘,sep=‘|‘)
data.to_csv(‘C:\\Users\\xiaoxiaodexiao\\pythonlianxi\\test0424\\outdata2.txt‘,sep=‘,‘,index=False,
            columns=[‘a‘,‘c‘,‘d‘])

  

 

 

 

原文地址:https://www.cnblogs.com/gangandimami/p/8955564.html

时间: 2024-08-28 10:31:16

python读取文本文件数据的相关文章

python读取数据库数据,读取出的中文乱码问题

最近遇到python读取数据库数据,读取出的中文乱码问题, 网络搜索的基本是: "1. Python文件设置编码 utf-8 (文件前面加上 #encoding=utf-8)2. MySQL数据库charset=utf-83. Python连接MySQL是加上参数 charset=utf84. 设置Python的默认编码为 utf-8 (sys.setdefaultencoding(utf-8)" 这些,一一尝试后仍未解决.去数据库查看了下,发现这个出现中文乱码的字段类型是varcha

Python读取文件数据

1题目要求: 文本文件有这些数据,需要的只有其中的5个属性,如下颜色标记 像以下的数据达到75万组: 1product/productId: B0000UIXZ4 2product/title: Timex Link USB Watch 3product/price: unknown 4review/userId: A14MVG2I9PS6NZ 5review/profileName: B. Kuiper "Wah" 6review/helpfulness: 0/0 7review/s

python读取文本文件

1. 读取文本文件 代码: [python] view plain copy f = open('test.txt', 'r') print f.read() f.seek(0) print f.read(14) f.seek(0) print f.readline() print f.readline() f.seek(0) print f.readlines() f.seek(0) for line in f: print line, f.close() 运行结果: [email prote

python 读取文本文件

Python的文本处理是经常碰到的一个问题,Python的文本文件的内容读取中,有三类方法:read().readline().readlines(),这三种方法各有利弊,下面逐一介绍其使用方法和利弊. read(): read()是最简单的一种方法,一次性读取文件的所有内容放在一个大字符串中,即存在内存中 file_object = open('test.txt') //不要把open放在try中,以防止打开失败,那么就不用关闭了 try: file_context = file_object

python读取excel数据

excel是很常用的表格工具.不过,对程序员来说,这可不是件好事件.因为excel的数据既不像txt那样,随意一种语言.脚本,写个函数就能把数据读出来分析.也不像JSON这种开源的数据格式,有N多的开源库来读取.就算没有,知道数据格式,自己写个库也自己用不至于太难. 要想读取excel的数据,大多使用ODBC数据库驱动或者COM的方式.对于ODBC,不同的语言有不同的实现,如java的JDBC.而对于COM方式,几乎是在后台运行一个excel程序,像new Excel.Application()

python——读取MATLAB数据文件 *.mat

鉴于以后的目标主要是利用现有的Matlab数据(.mat或者.txt),主要考虑python导入Matlab数据的问题.以下代码可以解决python读取.mat文件的问题.主要使用sicpy.io即可.sicpy.io提供了两个函数loadmat和savemat,非常方便. # adapted from http://blog.csdn.net/rumswell/article/details/8545087 import scipy.io as sio #import matplotlib.p

Python 读取文本文件编码错误解决方案(未知文本文件编码情况下解决方案)

很多情况下我们是这样读取文本文件的: with open(r'F:\.Python Project\spidertest1\test\pdd凉席.txt', 'r') as f: text = f.read()但是如果该文本文件是gbk格式的,那么将会报以下错误: Traceback (most recent call last): File "F:/.Python Project/spidertest1/test/MyTest4.py", line 14, in <module

利用Python读取json数据并求数据平均值

要做的事情:一共十二个月的json数据(即12个json文件),json数据的一个单元如下所示.读取这些数据,并求取各个(100多个)城市年.季度平均值. { "time_point": "2014-01", "area": "***", "aqi": "71", "pm2_5": "47", "pm10": "69&

python 读取SQLServer数据插入到MongoDB数据库中

# -*- coding: utf-8 -*-import pyodbcimport osimport csvimport pymongofrom pymongo import ASCENDING, DESCENDINGfrom pymongo import MongoClientimport binascii '''连接mongoDB数据库'''client = MongoClient('10.20.4.79', 27017)#client = MongoClient('10.20.66.10