python数据表的合并(python pandas join() 、merge()和concat()的用法)

merage#

pandas提供了一个类似于关系数据库的连接(join)操作的方法<Strong>merage</Strong>,可以根据一个或多个键将不同DataFrame中的行连接起来,语法如下:

merge(left, right, how=‘inner‘, on=None, left_on=None, right_on=None,
      left_index=False, right_index=False, sort=True,
      suffixes=(‘_x‘, ‘_y‘), copy=True, indicator=False)

作为一个功能完善、强大的语言,python的pandas库中的merge()支持各种内外连接。

  • left与right:两个不同的DataFrame
  • how:指的是合并(连接)的方式有inner(内连接),left(左外连接),right(右外连接),outer(全外连接);默认为inner
  • on : 指的是用于连接的列索引名称。必须存在右右两个DataFrame对象中,如果没有指定且其他参数也未指定则以两个DataFrame的列名交集做为连接键
  • left_on:左则DataFrame中用作连接键的列名;这个参数中左右列名不相同,但代表的含义相同时非常有用。
  • right_on:右则DataFrame中用作 连接键的列名
  • left_index:使用左则DataFrame中的行索引做为连接键
  • right_index:使用右则DataFrame中的行索引做为连接键
  • sort:默认为True,将合并的数据进行排序。在大多数情况下设置为False可以提高性能
  • suffixes:字符串值组成的元组,用于指定当左右DataFrame存在相同列名时在列名后面附加的后缀名称,默认为(‘_x‘,‘_y‘)
  • copy:默认为True,总是将数据复制到数据结构中;大多数情况下设置为False可以提高性能
  • indicator:在 0.17.0中还增加了一个显示合并数据中来源情况;如只来自己于左边(left_only)、两者(both)
sql中的
SELECT *
FROM df1
INNER JOIN df2
  ON df1.key = df2.key;
或
SELECT *
FROM df1,df2 where df1.key=df2.key

pandas中用:

pd.merge(df1, df2, on=‘key‘)

然后就是各种外连接了:

pd.merge(df1, df2, on=‘key‘, how=‘left‘)

how变成left/right。全链接outer。

示例##

#coding=utf-8
from pandas import Series,DataFrame,merge
import numpy as np
data=DataFrame([{"id":0,"name":‘lxh‘,"age":20,"cp":‘lm‘},{"id":1,"name":‘xiao‘,"age":40,"cp":‘ly‘},{"id":2,"name":‘hua‘,"age":4,"cp":‘yry‘},{"id":3,"name":‘be‘,"age":70,"cp":‘old‘}])
data1=DataFrame([{"id":100,"name":‘lxh‘,‘cs‘:10},{"id":101,"name":‘xiao‘,‘cs‘:40},{"id":102,"name":‘hua2‘,‘cs‘:50}])
data2=DataFrame([{"id":0,"name":‘lxh‘,‘cs‘:10},{"id":101,"name":‘xiao‘,‘cs‘:40},{"id":102,"name":‘hua2‘,‘cs‘:50}])

print "单个列名做为内链接的连接键\r\n",merge(data,data1,on="name",suffixes=(‘_a‘,‘_b‘))
print "多列名做为内链接的连接键\r\n",merge(data,data2,on=("name","id"))
print ‘不指定on则以两个DataFrame的列名交集做为连接键\r\n‘,merge(data,data2) #这里使用了id与name

#使用右边的DataFrame的行索引做为连接键
##设置行索引名称
indexed_data1=data1.set_index("name")
print "使用右边的DataFrame的行索引做为连接键\r\n",merge(data,indexed_data1,left_on=‘name‘,right_index=True)

print ‘左外连接\r\n‘,merge(data,data1,on="name",how="left",suffixes=(‘_a‘,‘_b‘))
print ‘左外连接1\r\n‘,merge(data1,data,on="name",how="left")
print ‘右外连接\r\n‘,merge(data,data1,on="name",how="right")
data3=DataFrame([{"mid":0,"mname":‘lxh‘,‘cs‘:10},{"mid":101,"mname":‘xiao‘,‘cs‘:40},{"mid":102,"mname":‘hua2‘,‘cs‘:50}])

#当左右两个DataFrame的列名不同,当又想做为连接键时可以使用left_on与right_on来指定连接键
print "使用left_on与right_on来指定列名字不同的连接键\r\n",merge(data,data3,left_on=["name","id"],right_on=["mname","mid"])


输出为:

单个列名做为内链接的连接键
   age  cp  id_a  name  cs  id_b
0   20  lm     0   lxh  10   100
1   40  ly     1  xiao  40   101
多列名做为内链接的连接键
   age  cp  id name  cs
0   20  lm   0  lxh  10
不指定on则以两个DataFrame的列名交集做为连接键
   age  cp  id name  cs
0   20  lm   0  lxh  10
使用右边的DataFrame的行索引做为连接键
   age  cp  id_x  name  cs  id_y
0   20  lm     0   lxh  10   100
1   40  ly     1  xiao  40   101
左外连接
   age   cp  id_a  name  cs  id_b
0   20   lm     0   lxh  10   100
1   40   ly     1  xiao  40   101
2    4  yry     2   hua NaN   NaN
3   70  old     3    be NaN   NaN
左外连接1
   cs  id_x  name  age   cp  id_y
0  10   100   lxh   20   lm     0
1  40   101  xiao   40   ly     1
2  50   102  hua2  NaN  NaN   NaN
右外连接
   age   cp  id_x  name  cs  id_y
0   20   lm     0   lxh  10   100
1   40   ly     1  xiao  40   101
2  NaN  NaN   NaN  hua2  50   102
使用left_on与right_on来指定列名字不同的连接键
   age  cp  id name  cs  mid mname
0   20  lm   0  lxh  10    0   lxh

join方法提供了一个简便的方法用于将两个DataFrame中的不同的列索引合并成为一个DataFrame。

其中参数的意义与merge方法基本相同,只是join方法默认为左外连接how=left。

示例:

#coding=utf-8
from pandas import Series,DataFrame,merge

data=DataFrame([{"id":0,"name":‘lxh‘,"age":20,"cp":‘lm‘},{"id":1,"name":‘xiao‘,"age":40,"cp":‘ly‘},{"id":2,"name":‘hua‘,"age":4,"cp":‘yry‘},{"id":3,"name":‘be‘,"age":70,"cp":‘old‘}],index=[‘a‘,‘b‘,‘c‘,‘d‘])
data1=DataFrame([{"sex":0},{"sex":1},{"sex":2}],index=[‘a‘,‘b‘,‘e‘])

print ‘使用默认的左连接\r\n‘,data.join(data1)  #这里可以看出自动屏蔽了data中没有的index=e 那一行的数据
print ‘使用右连接\r\n‘,data.join(data1,how="right") #这里出自动屏蔽了data1中没有index=c,d的那行数据;等价于data1.join(data)
print ‘使用内连接\r\n‘,data.join(data1,how=‘inner‘)
print ‘使用全外连接\r\n‘,data.join(data1,how=‘outer‘)

结果为:

使用默认的左连接
   age   cp  id  name  sex
a   20   lm   0   lxh    0
b   40   ly   1  xiao    1
c    4  yry   2   hua  NaN
d   70  old   3    be  NaN
使用右连接
   age   cp  id  name  sex
a   20   lm   0   lxh    0
b   40   ly   1  xiao    1
e  NaN  NaN NaN   NaN    2
使用内连接
   age  cp  id  name  sex
a   20  lm   0   lxh    0
b   40  ly   1  xiao    1
使用全外连接
   age   cp  id  name  sex
a   20   lm   0   lxh    0
b   40   ly   1  xiao    1
c    4  yry   2   hua  NaN
d   70  old   3    be  NaN
e  NaN  NaN NaN   NaN    2

还有一种连接方式:concat

concat方法相当于数据库中的全连接(UNION ALL),可以指定按某个轴进行连接,也可以指定连接的方式join(outer,inner 只有这两种)。

与数据库不同的是concat不会去重,要达到去重的效果可以使用drop_duplicates方法

concat(objs, axis=0, join=‘outer‘, join_axes=None, ignore_index=False,
           keys=None, levels=None, names=None, verify_integrity=False, copy=True):

示例:

#coding=utf-8
from pandas import Series,DataFrame,concat

df1 = DataFrame({‘city‘: [‘Chicago‘, ‘San Francisco‘, ‘New York City‘], ‘rank‘: range(1, 4)})
df2 = DataFrame({‘city‘: [‘Chicago‘, ‘Boston‘, ‘Los Angeles‘], ‘rank‘: [1, 4, 5]})
print ‘按轴进行内连接\r\n‘,concat([df1,df2],join="inner",axis=1)
print ‘进行外连接并指定keys(行索引)\r\n‘,concat([df1,df2],keys=[‘a‘,‘b‘]) #这里有重复的数据
print ‘去重后\r\n‘,concat([df1,df2],ignore_index=True).drop_duplicates()

输出结果为:

按轴进行内连接
            city  rank         city  rank
0        Chicago     1      Chicago     1
1  San Francisco     2       Boston     4
2  New York City     3  Los Angeles     5
进行外连接并指定keys(行索引)
              city  rank
a 0        Chicago     1
  1  San Francisco     2
  2  New York City     3
b 0        Chicago     1
  1         Boston     4
  2    Los Angeles     5
去重后
            city  rank
0        Chicago     1
1  San Francisco     2
2  New York City     3
4         Boston     4
5    Los Angeles     5

原文地址:https://www.cnblogs.com/xk-bench/p/8379180.html

时间: 2024-10-11 12:38:45

python数据表的合并(python pandas join() 、merge()和concat()的用法)的相关文章

python数据表的合并_merge

Ref:https://nbviewer.jupyter.org/github/pydata/pydata-book/blob/2nd-edition/ch08.ipynbimport pandas as pddf1 = pd.DataFrame({'key': ['b', 'b', 'a', 'c', 'a', 'a', 'b'], 'data1': range(7)}) df2 = pd.DataFrame({'key': ['a', 'b', 'd'], 'data2': range(3)

python打印表格式数据,留出正确的空格和段落星号或注释

python打印表格式数据,留出正确的空格,格式化打出 代码如下: def printPicnic(itemsDict,leftWidth,rightWidth): print('PICNIC ITEMS'.center(leftWidth + rightWidth,'-')) for k,v in itemsDict.items(): print(k.ljust(leftWidth,'.')+str(v).rjust(rightWidth)) picnicItems = {'sandwitch

python Django教程 之 模型(数据库)、自定义Field、数据表更改、QuerySet API

python  Django教程  之 模型(数据库).自定义Field.数据表更改.QuerySet API 一.Django 模型(数据库) Django 模型是与数据库相关的,与数据库相关的代码一般写在 models.py 中,Django 支持 sqlite3, MySQL, PostgreSQL等数据库,只需要在settings.py中配置即可,不用更改models.py中的代码,丰富的API极大的方便了使用. 本节的代码:(Django 1.6, Python 2.7 测试环境) 大

python数据分析学习(2)pandas二维工具DataFrame讲解

目录 二:pandas数据结构介绍 ??下面继续讲解pandas的第二个工具DataFrame. 二:pandas数据结构介绍 2.DataFarme ??DataFarme表示的是矩阵的数据表,包含已排序的列集合,是一个二维数据工具.每一列可以是不同的数据类型值.它既有行索引又有列索引,可以看作是一组共享相同索引的Series对象.DataFarme的数组方法有很多,比如用index.name获取某列的值,用values获取行的值.这里先介绍一些常用的知识. ??(1)构建DataFrame

小白学 Python 数据分析(9):Pandas (八)数据预处理(2)

人生苦短,我用 Python 前文传送门: 小白学 Python 数据分析(1):数据分析基础 小白学 Python 数据分析(2):Pandas (一)概述 小白学 Python 数据分析(3):Pandas (二)数据结构 Series 小白学 Python 数据分析(4):Pandas (三)数据结构 DataFrame 小白学 Python 数据分析(5):Pandas (四)基础操作(1)查看数据 小白学 Python 数据分析(6):Pandas (五)基础操作(2)数据选择 小白学

小白学 Python 数据分析(10):Pandas (九)数据运算

人生苦短,我用 Python 前文传送门: 小白学 Python 数据分析(1):数据分析基础 小白学 Python 数据分析(2):Pandas (一)概述 小白学 Python 数据分析(3):Pandas (二)数据结构 Series 小白学 Python 数据分析(4):Pandas (三)数据结构 DataFrame 小白学 Python 数据分析(5):Pandas (四)基础操作(1)查看数据 小白学 Python 数据分析(6):Pandas (五)基础操作(2)数据选择 小白学

python简单模拟:把树存储在数据表中

在数据库中建立一个表,有Id, fatherId, value 三个字段,就可以存储一个树. 如何把该表中的数据以树的形式呈现出来,下面小弟用python简单模拟一下. 初学python,请大家多多指点.另外非常感谢http://www.cnblogs.com/lzyzizi/对小弟的指点. 运行结果: A-1 B-1 C-1 D-1 E-1 E-2 C-2 B-2 C-3 C-4 源代码: 1 #!user/bin/python 2   3  class noteModel: 4 def __

python操作数据库-数据表

数据表: 数据类型: 帮助的三种形式: 在cmd中输入: help 要帮助的主题词,或 ? 要帮助的主题词 或  \h 要帮助的主题词 . 数据表的创建: CREATE database IF NOT exists zbltest2 default character set 'utf8'; USE zbltest2; CREATE TABLE IF NOT EXISTS `user`( id SMALLINT, username VARCHAR(20) ) ENGINE=INNODB CHAR

Python 创建数据表

其实跟 Python 执行 MySQL 事务的操作差不多: [[email protected] ~]# cat 1.py #!/usr/bin/env python import MySQLdb def connect_mysql(): db_config = { 'host': '127.0.0.1', 'port': 3306, 'user': 'root', 'passwd': 'pzk123', 'db': 'test' } c = MySQLdb.connect(**db_confi