pandas入门

【原】十分钟搞定pandas

本文是对pandas官方网站上《10 Minutes to pandas》的一个简单的翻译,原文在这里。这篇文章是对pandas的一个简单的介绍,详细的介绍请参考:Cookbook 。习惯上,我们会按下面格式引入所需要的包:

一、            创建对象

可以通过 Data Structure Intro Setion 来查看有关该节内容的详细信息。

1、可以通过传递一个list对象来创建一个Series,pandas会默认创建整型索引:

2、通过传递一个numpy array,时间索引以及列标签来创建一个DataFrame:

3、通过传递一个能够被转换成类似序列结构的字典对象来创建一个DataFrame:

4、查看不同列的数据类型:

5、如果你使用的是IPython,使用Tab自动补全功能会自动识别所有的属性以及自定义的列,下图中是所有能够被自动识别的属性的一个子集:

二、            查看数据

详情请参阅:Basics Section

1、  查看frame中头部和尾部的行:

2、  显示索引、列和底层的numpy数据:

3、  describe()函数对于数据的快速统计汇总:

4、  对数据的转置:

5、  按轴进行排序

6、  按值进行排序

三、            选择

虽然标准的Python/Numpy的选择和设置表达式都能够直接派上用场,但是作为工程使用的代码,我们推荐使用经过优化的pandas数据访问方式:.at, .iat, .loc, .iloc 和 .ix详情请参阅Indexing and Selecing Data 和 MultiIndex / Advanced Indexing

l  获取

1、 选择一个单独的列,这将会返回一个Series,等同于df.A:

2、 通过[]进行选择,这将会对行进行切片

l  通过标签选择

1、 使用标签来获取一个交叉的区域

2、 通过标签来在多个轴上进行选择

3、 标签切片

4、 对于返回的对象进行维度缩减

5、 获取一个标量

6、 快速访问一个标量(与上一个方法等价)

l  通过位置选择

1、 通过传递数值进行位置选择(选择的是行)

2、 通过数值进行切片,与numpy/python中的情况类似

3、 通过指定一个位置的列表,与numpy/python中的情况类似

4、 对行进行切片

5、 对列进行切片

6、 获取特定的值

l  布尔索引

1、 使用一个单独列的值来选择数据:

2、 使用where操作来选择数据:

3、 使用isin()方法来过滤:

l  设置

1、 设置一个新的列:

2、 通过标签设置新的值:

3、 通过位置设置新的值:

4、 通过一个numpy数组设置一组新值:

上述操作结果如下:

5、 通过where操作来设置新的值:

四、            缺失值处理

在pandas中,使用np.nan来代替缺失值,这些值将默认不会包含在计算中,详情请参阅:Missing Data Section

1、  reindex()方法可以对指定轴上的索引进行改变/增加/删除操作,这将返回原始数据的一个拷贝:、

2、  去掉包含缺失值的行:

3、  对缺失值进行填充:

4、  对数据进行布尔填充:

五、            相关操作

详情请参与 Basic Section On Binary Ops

l  统计(相关操作通常情况下不包括缺失值)

1、  执行描述性统计:

2、  在其他轴上进行相同的操作:

3、  对于拥有不同维度,需要对齐的对象进行操作。Pandas会自动的沿着指定的维度进行广播:

l  Apply

1、  对数据应用函数:

l  直方图

具体请参照:Histogramming and Discretization

l  字符串方法

Series对象在其str属性中配备了一组字符串处理方法,可以很容易的应用到数组中的每个元素,如下段代码所示。更多详情请参考:Vectorized String Methods.

六、            合并

Pandas提供了大量的方法能够轻松的对Series,DataFrame和Panel对象进行各种符合各种逻辑关系的合并操作。具体请参阅:Merging section

l  Concat

l  Join 类似于SQL类型的合并,具体请参阅:Database style joining

l  Append 将一行连接到一个DataFrame上,具体请参阅Appending

七、            分组

对于”group by”操作,我们通常是指以下一个或多个操作步骤:

l  (Splitting)按照一些规则将数据分为不同的组;

l  (Applying)对于每组数据分别执行一个函数;

l  (Combining)将结果组合到一个数据结构中;

详情请参阅:Grouping section

1、  分组并对每个分组执行sum函数:

2、  通过多个列进行分组形成一个层次索引,然后执行函数:

八、            Reshaping

详情请参阅 Hierarchical Indexing 和 Reshaping

l  Stack

l  数据透视表,详情请参阅:Pivot Tables.

可以从这个数据中轻松的生成数据透视表:

九、            时间序列

Pandas在对频率转换进行重新采样时拥有简单、强大且高效的功能(如将按秒采样的数据转换为按5分钟为单位进行采样的数据)。这种操作在金融领域非常常见。具体参考:Time Series section

1、  时区表示:

2、  时区转换:

3、  时间跨度转换:

4、  时期和时间戳之间的转换使得可以使用一些方便的算术函数。

十、            Categorical

从0.15版本开始,pandas可以在DataFrame中支持Categorical类型的数据,详细 介绍参看:categorical introductionAPI documentation

1、  将原始的grade转换为Categorical数据类型:

2、  将Categorical类型数据重命名为更有意义的名称:

3、  对类别进行重新排序,增加缺失的类别:

4、  排序是按照Categorical的顺序进行的而不是按照字典顺序进行:

5、  对Categorical列进行排序时存在空的类别:

十一、           画图

具体文档参看:Plotting docs

对于DataFrame来说,plot是一种将所有列及其标签进行绘制的简便方法:

十二、           导入和保存数据

l  CSV,参考:Writing to a csv file

1、  写入csv文件:

2、  从csv文件中读取:

l  HDF5,参考:HDFStores

1、  写入HDF5存储:

2、  从HDF5存储中读取:

l  Excel,参考:MS Excel

1、  写入excel文件:

2、  从excel文件中读取:

时间: 2024-10-07 05:40:33

pandas入门的相关文章

利用Python进行数据分析——pandas入门

利用Python进行数据分析--pandas入门 基于NumPy建立的 from pandas importSeries,DataFrame,import pandas as pd 一.两种数据结构 1.Series 类似于Python的字典,有索引和值 创建Series #不指定索引,默认创建0-N In [54]: obj = Series([1,2,3,4,5]) In [55]: obj Out[55]: 0 1 1 2 2 3 3 4 4 5 dtype: int64 #指定索引 In

短视频学习 - 15、pandas入门之数据结构-Series(1)

今日内容 # pandas入门之数据结构-Series 简介 # Series是一维标记的数组,能够保存任何数据类型(整数,字符串,浮点数,Python对象等) 常用操作 # 从ndarray实例化 (ndarray是numpy的数据结构) # 从字典实例化(先创建字典,再将字典实例化为series) # 从标量值实例化 # 将Series完全转化为numpy的ndarray,能执行大多数NumPy的函数操作 FollowMe # 实现上述具体操作 若浏览器无法显示下面视频,可点击此处观看优酷短

程序员用于机器学习编程的Python 数据处理库 pandas 入门教程

入门介绍 pandas适合于许多不同类型的数据,包括: · 具有异构类型列的表格数据,例如SQL表格或Excel数据 · 有序和无序(不一定是固定频率)时间序列数据. · 具有行列标签的任意矩阵数据(均匀类型或不同类型) · 任何其他形式的观测/统计数据集. 由于这是一个Python语言的软件包,因此需要你的机器上首先需要具备Python语言的环境.关于这一点,请自行在网络上搜索获取方法. 关于如何获取pandas请参阅官网上的说明:pandas Installation. 通常情况下,我们可以

python之pandas入门操作

本文章是建议入门者直接上手操作,在操作中再去想为什么,是什么? --理论知识暂时不写了,可自行百度 ,跟着代码来入门,简单粗暴. import pandas as pd import numpy as np from pandas import Series,DataFrame #数据结构:Series 和DataFrame #Series 是一个定长的字典序列 定长:相当于两个ndarray #Series有两个基本属性:index和values index默认0,1,2...递增 可以自定义

《利用python进行数据分析》读书笔记--第五章 pandas入门

pandas是本书后续内容的首选库.pandas可以满足以下需求: 具备按轴自动或显式数据对齐功能的数据结构.这可以防止许多由于数据未对齐以及来自不同数据源(索引方式不同)的数据而导致的常见错误.. 集成时间序列功能 既能处理时间序列数据也能处理非时间序列数据的数据结构 数学运算和简约(比如对某个轴求和)可以根据不同的元数据(轴编号)执行 灵活处理缺失数据 合并及其他出现在常见数据库(例如基于SQL的)中的关系型运算 pandas数据结构介绍 两个数据结构:Series和DataFrame.Se

pandas入门(一)

一 引入数据,以CSV为例 import pandas as pd import numpy as np df=pd.read_csv('/Users/cici/Documents/huanji_2017_ori.csv',header=0,sep='\t',names=['uid','month','h_date','from','to'],index='uid') 二 查看数据 1.查看列名 df.columns 2.查看前几行或后几行 df.head(1)     df.tail(1) 3

pandas 入门

1. 默认的pandas不能读取excel.需要安装xlrd, xlwt才能支持excel的读写 1 pip install xlrd #添加读取excel功能 2 pip install xlwt #添加写入excel功能 2.pandas基本数据结构是Series 和 DataFrame Series序列,类似与一维数组: Data Frame则相当于一张二维表格,类似于二维数组,它的每一列都是一个Series,每个series都有一个对应的index,用来标记不同的元素.index的内容可

pandas入门学习--------------------------(一)

使用pandas,首先需要熟悉它的2个主要的数据结构:Series和DataFrame. Series series是一种类似于一维数组的的对象,它由一组数据(各种Numpy数据类型)以及一组与之相关的数据标签(索引)组成. In [1]: from pandas import Series,DataFrame In [2]: import pandas as pd In [3]: obj=Series([4,7,-5,3]) In [4]: obj Out[4]: 0 4 1 7 2 -5 3

pandas入门学习--------------------------(二)

索引对象 pandas的索引对象负责管理轴标签和其他元数据(比如轴名称等).构建series或DataFrame时,所用到的任何数组或其他序列的标签都会转换成一个index: In [1]: import pandas as pd In [2]: import numpy as np In [3]: from pandas import Series In [4]: obj=Series(range(3),index=['a','b','c']) In [5]: index=obj.index