百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

Python语法之:Pandas数据合并总结

ztj100 2025-02-18 14:23 15 浏览 0 评论

Pandas有concat、append、join和merge四种方法用于dataframe拼接


concat、append、join、merge 区别如下:

1、.concat():pandas的顶级方法,提供了axis设置可用于df间行方向(增加行,下同)或列方向(增加列,下同)进行内联或外联拼接操作

2、.append():dataframe数据类型的方法,提供了行方向的拼接操作

3、.join():dataframe数据类型的方法,提供了列方向的拼接操作,支持左联、右联、内联和外联四种操作类型

4、.merge():pandas的顶级方法,提供了类似于SQL数据库连接操作的功能,支持左联、右联、内联和外联等全部四种SQL连接操作类型

concat

concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,

keys=None, levels=None, names=None, verify_integrity=False,

copy=True)

"""

常用参数说明:

axis:拼接轴方向,默认为0,沿行拼接;若为1,沿列拼接

join:默认外联'outer',拼接另一轴所有的label,缺失值用NaN填充;内联'inner',只拼接另一轴相同的label;

join_axes: 指定需要拼接的轴的labels,可在join既不内联又不外联的时候使用

ignore_index:对index进行重新排序

keys:多重索引

"""

import pandas as pd
def df_maker(cols, idxs):
    return pd.DataFrame({c:[c+str(i) for i in idxs] for c in cols}, index=idxs)

df1 = df_maker('abc',[1,2,3])
df2 = df_maker('cde',[3,4,5])
print(df1)
print(df2)
print(pd.concat([df1,df2]))    # 默认沿axis=0,join=‘out’的方式进行concat  
print(pd.concat([df1,df2], ignore_index=True))    # 重新设定index(效果类似于pd.concat([df1,df2]).reset_index(drop=True))
print(pd.concat([df1,df2], axis=1))   # 沿列进行合并
print(pd.concat([df1,df2], axis=1, join='inner'))    # 沿列进行合并,采用外联方式因为行中只有index=3是重复的,所以只有一行
print(pd.concat([df1,df2], axis=1, join_axes=[df1.index]))   # 指定只取df1的index

from pandas import Index
index = Index([1,2,4])
print(pd.concat([df1,df2], axis=1, join_axes=[index]))   # 自定义index

print(pd.concat([df1,df2], axis=0,keys=["第一组","第二组"]))   # 通过key定义多重索引

append

append(self, other, ignore_index=False, verify_integrity=False)

"""

常用参数说明:

other:另一个df

ignore_index:若为True,则对index进行重排

verify_integrity:对index的唯一性进行验证,若有重复,报错。若已经设置了ignore_index,则该参数无效

"""

import pandas as pd
def df_maker(cols, idxs):
    return pd.DataFrame({c:[c+str(i) for i in idxs] for c in cols}, index=idxs)


df1 = df_maker('abc',[1,2,3])
df2 = df_maker('cde',[3,4,5])
print(df1.append(df2))    # 效果类似于pd.concat([df1,df2]) 
print(df1.append(df2,ignore_index=True))    # index重排,效果类似于pd.concat([df1, df2], ignore_index=True)
#print(df1.append(df2,verify_integrity=True))    # 因为两个df均有index=3,所以报错

join

join(other, on=None, how='left', lsuffix='', rsuffix='', sort=False)

"""

常用参数说明:

on:参照的左边df列名key(可能需要先进行set_index操作),若未指明,按照index进行join

how:{‘left’, ‘right’, ‘outer’, ‘inner’}, 默认‘left’,即按照左边df的index(若声明了on,则按照对应的列);若为‘right’abs照左边的df

若‘inner’为内联方式;若为‘outer’为全连联方式。

sort:是否按照join的key对应的值大小进行排序,默认False

lsuffix,rsuffix:当left和right两个df的列名出现冲突时候,通过设定后缀的方式避免错误

"""

import pandas as pd
import numpy as np

df3 = pd.DataFrame({'lkey':['foo','bar','baz','foo'], 'value':np.arange(1,5)})
df4 = pd.DataFrame({'rkey':['foo','bar','qux','bar'], 'value':np.arange(3,7)})
print(df3)
print(df4)
#print(df3.join(df4))     # 两者有相同的列名‘value’,所以报错
print(df3.join(df4 , lsuffix='_df3', rsuffix='_df4'))    # 通过添加后缀避免冲突
print(df3.set_index('lkey').join(df4.set_index('rkey'), how='outer',lsuffix='_df3',rsuffix='_df4'))    # 可以通过将两边的key进行set_index
print(df3.join(df4.set_index('rkey'), on='lkey',lsuffix='_df3',rsuffix='_df4'))   
# 也可以通过设置后边df中key,并通过on与指定的左边df中的列进行合并,返回的index不变

merge

pd.merge(left, right, how='inner', on=None, left_on=None, right_on=None,

left_index=False, right_index=False, sort=False,

suffixes=('_x', '_y'), copy=True, indicator=False,

validate=None):

"""

既可作为pandas的顶级方法使用,也可作为DataFrame数据结构的方法进行调用

常用参数说明:

how:{'left’, ‘right’, ‘outer’, ‘inner’}, 默认‘inner’,类似于SQL的内联。'left’类似于SQL的左联;'right’类似于SQL的右联;

‘outer’类似于SQL的全联。

on:进行合并的参照列名,必须一样。若为None,方法会自动匹配两张表中相同的列名

left_on: 左边df进行连接的列

right_on: 右边df进行连接的列

suffixes: 左、右列名称前缀

validate:默认None,可定义为“one_to_one” 、“one_to_many” 、“many_to_one”和“many_to_many”,即验证是否一对一、一对多、多对一或

多对多关系

"""

"""

SQL语句复习:

内联:SELECT a.*, b.* from table1 as a inner join table2 as b on a.ID=b.ID

左联:SELECT a.*, b.* from table1 as a left join table2 as b on a.ID=b.ID

右联:SELECT a.*, b.* from table1 as a right join table2 as b on a.ID=b.ID

全联:SELECT a.*, b.* from table1 as a full join table2 as b on a.ID=b.ID

"""

import pandas as pd
df3 = pd.DataFrame({'lkey':['foo','bar','baz','foo'], 'value':np.arange(1,5)})
df4 = pd.DataFrame({'rkey':['foo','bar','qux','bar'], 'value':np.arange(3,7)})
print(df3)
print(df4)
print(pd.merge(df3,df4))       # on为None,自动找寻相同的列名,即为'value',且默认为内联
print(pd.merge(df3,df4,how='outer'))   # 外联模式下
print(pd.merge(df3, df4, left_on='lkey',right_on='rkey'))   # 默认内联,2个foo*2个bar
print(pd.merge(df3, df4, left_on='lkey',right_on='rkey', how='left'))    # 以左边的df3为标准进行连接
print(pd.merge(df3, df4, left_on='lkey',right_on='rkey', how='right'))    # 以右边的df4为标准进行连接
print(pd.merge(df3, df4, left_on='lkey',right_on='rkey', how='outer'))    # 全连接
print(pd.merge(df3, df4, left_on='lkey',right_on='rkey', how='inner'))    # 内连接

相关推荐

Vue3非兼容变更——函数式组件(vue 兼容)

在Vue2.X中,函数式组件有两个主要应用场景:作为性能优化,因为它们的初始化速度比有状态组件快得多;返回多个根节点。然而在Vue3.X中,有状态组件的性能已经提高到可以忽略不计的程度。此外,有状态组...

利用vue.js进行组件化开发,一学就会(一)

组件原理/组成组件(Component)扩展HTML元素,封装可重用的代码,核心目标是为了可重用性高,减少重复性的开发。组件预先定义好行为的ViewModel类。代码按照template\styl...

Vue3 新趋势:10 个最强 X 操作!(vue.3)

Vue3为前端开发带来了诸多革新,它不仅提升了性能,还提供了...

总结 Vue3 组件管理 12 种高级写法,灵活使用才能提高效率

SFC单文件组件顾名思义,就是一个.vue文件只写一个组件...

前端流行框架Vue3教程:17. _组件数据传递

_组件数据传递我们之前讲解过了组件之间的数据传递,...

前端流行框架Vue3教程:14. 组件传递Props效验

组件传递Props效验Vue组件可以更细致地声明对传入的props的校验要求...

前端流行框架Vue3教程:25. 组件保持存活

25.组件保持存活当使用...

5 个被低估的 Vue3 实战技巧,让你的项目性能提升 300%?

前端圈最近都在卷性能优化和工程化,你还在用老一套的Vue3开发方法?作为摸爬滚打多年的老前端,今天就把私藏的几个Vue3实战技巧分享出来,帮你在开发效率、代码质量和项目性能上实现弯道超车!一、...

绝望!Vue3 组件频繁崩溃?7 个硬核技巧让性能暴涨 400%!

前端的兄弟姐妹们五一假期快乐,谁还没在Vue3项目上栽过跟头?满心欢喜写好的组件,一到实际场景就频频崩溃,页面加载慢得像蜗牛,操作卡顿到让人想砸电脑。用户疯狂吐槽,领导脸色难看,自己改代码改到怀疑...

前端流行框架Vue3教程:15. 组件事件

组件事件在组件的模板表达式中,可以直接使用...

Vue3,看这篇就够了(vue3 从入门到实战)

一、前言最近很多技术网站,讨论的最多的无非就是Vue3了,大多数都是CompositionAPI和基于Proxy的原理分析。但是今天想着跟大家聊聊,Vue3对于一个低代码平台的前端更深层次意味着什么...

前端流行框架Vue3教程:24.动态组件

24.动态组件有些场景会需要在两个组件间来回切换,比如Tab界面...

前端流行框架Vue3教程:12. 组件的注册方式

组件的注册方式一个Vue组件在使用前需要先被“注册”,这样Vue才能在渲染模板时找到其对应的实现。组件注册有两种方式:全局注册和局部注册...

焦虑!Vue3 组件频繁假死?6 个奇招让页面流畅度狂飙 500%!

前端圈的朋友们,谁还没在Vue3项目上踩过性能的坑?满心期待开发出的组件,一到高并发场景就频繁假死,用户反馈页面点不动,产品经理追着问进度,自己调试到心态炸裂!别以为这是个例,不少人在电商大促、数...

前端流行框架Vue3教程:26. 异步组件

根据上节课的代码,我们在切换到B组件的时候,发现并没有网络请求:异步组件:...

取消回复欢迎 发表评论: