百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

Pandas宝藏函数-concat()_pandas iloc函数

ztj100 2025-02-18 14:24 40 浏览 0 评论

作者:小伍哥

来源:AI入门学习

在数据处理过程中,经常会遇到多个表进行拼接合并的需求,在Pandas中有多个拼接合并的方法,每种方法都有自己擅长的拼接方式,本文对pd.concat()进行详细讲解,希望对你有帮助。pd.concat()函数可以沿着指定的轴将多个dataframe或者series拼接到一起,这一点和另一个常用的pd.merge()函数不同,pd.merge()解决数据库样式的左右拼接,不能解决上下拼接。

一、基本语法

pd.concat(

     objs,      

     axis=0,     

     join='outer',

     ignore_index=False,

     keys=None,      

     levels=None,     

     names=None,      

     verify_integrity=False,     

     copy=True)

二、参数含义

  • objs:Series,DataFrame或Panel对象的序列或映射,如果传递了dict,则排序的键将用作键参数
  • axis:{0,1,...},默认为0,也就是纵向上进行合并。沿着连接的轴。
  • join:{'inner','outer'},默认为“outer”。如何处理其他轴上的索引。outer为联合和inner为交集。
  • ignore_index:boolean,default False。如果为True,请不要使用并置轴上的索引值。结果轴将被标记为0,...,n-1。如果要连接其中并置轴没有有意义的索引信息的对象,这将非常有用。注意,其他轴上的索引值在连接中仍然受到尊重。
  • keys:序列,默认值无。使用传递的键作为最外层构建层次索引。如果为多索引,应该使用元组。
  • levels:序列列表,默认值无。用于构建MultiIndex的特定级别(唯一值)。否则,它们将从键推断。
  • names:list,default无。结果层次索引中的级别的名称。
  • verify_integrity:boolean,default False。检查新连接的轴是否包含重复项。这相对于实际的数据串联可能是非常昂贵的。
  • copy:boolean,default True。如果为False,请勿不必要地复制数据。

三、竖向堆叠

#构建需要的数据表
import pandas as pd
df1 = pd.DataFrame({'A':['A{}'.format(i) for i in range(0,4)],
                    'B':['B{}'.format(i) for i in range(0,4)],
                    'C':['C{}'.format(i) for i in range(0,4)]
                 })


df2 = pd.DataFrame({'A':['A{}'.format(i) for i in range(4,8)],
                    'B':['B{}'.format(i) for i in range(4,8)],
                    'C':['C{}'.format(i) for i in range(4,8)]
                 })
df3 = pd.DataFrame({'A':['A{}'.format(i) for i in range(8,12)],
                    'B':['B{}'.format(i) for i in range(8,12)],
                    'C':['C{}'.format(i) for i in range(8,12)]
                 })
现将表构成list,然后在作为concat的输入
frames = [df1, df2, df3]

result = pd.concat(frames)

 A    B    C

0   A0   B0   C0

1   A1   B1   C1

2   A2   B2   C2

3   A3   B3   C3

0   A4   B4   C4

1   A5   B5   C5

2   A6   B6   C6

3   A7   B7   C7

0   A8   B8   C8

1   A9   B9   C9

2  A10  B10  C10

3  A11  B11  C11

传入也可以是字典

frames = {'df1':df1, 'df2':df2,'df3':df3}

result = pd.concat(frames)

   A    B    C

df1 0   A0   B0   C0

    1   A1   B1   C1

    2   A2   B2   C2

    3   A3   B3   C3

df2 0   A4   B4   C4

    1   A5   B5   C5

    2   A6   B6   C6

    3   A7   B7   C7

df3 0   A8   B8   C8

    1   A9   B9   C9

    2  A10  B10  C10

    3  A11  B11  C11
三、横向拼接

1、axis

当axis = 1的时候,concat就是行对齐,然后将不同列名称的两张表合并

#再构建一个表

df4 = pd.DataFrame({'C':['C{}'.format(i) for i in range(3,9)],

                    'E':['E{}'.format(i) for i in range(3,9)],

                    'F':['F{}'.format(i) for i in range(3,9)]

                 })

pd.concat([df1,df4], axis=1)

     A    B    C   C   E   F

0   A0   B0   C0  C3  E3  F3

1   A1   B1   C1  C4  E4  F4

2   A2   B2   C2  C5  E5  F5

3   A3   B3   C3  C6  E6  F6

4  NaN  NaN  NaN  C7  E7  F7

5  NaN  NaN  NaN  C8  E8  F8

2、join

加上join参数的属性,如果为'inner'得到的是两表的交集,如果是outer,得到的是两表的并集。

#  join='inner' 取交集

pd.concat([df1, df4], axis=1, join='inner')

    A   B   C   C   E   F

0  A0  B0  C0  C3  E3  F3

1  A1  B1  C1  C4  E4  F4

2  A2  B2  C2  C5  E5  F5

3  A3  B3  C3  C6  E6  F6




# join='outer' 和 默认值相同

pd.concat([df1, df4], axis=1, join='outer')

     A    B    C   C   E   F

0   A0   B0   C0  C3  E3  F3

1   A1   B1   C1  C4  E4  F4

2   A2   B2   C2  C5  E5  F5

3   A3   B3   C3  C6  E6  F6

4  NaN  NaN  NaN  C7  E7  F7

5  NaN  NaN  NaN  C8  E8  F8
四、对比append方法

append是series和dataframe的方法,使用它就是默认沿着列进行凭借(axis = 0,列对齐)

df1.append(df2)

    A   B   C

0  A0  B0  C0

1  A1  B1  C1

2  A2  B2  C2

3  A3  B3  C3

0  A4  B4  C4

1  A5  B5  C5

2  A6  B6  C6

3  A7  B7  C7
五、忽略index

如果两个表的index都没有实际含义,使用ignore_index参数,置true,合并的两个表就睡根据列字段对齐,然后合并。最后再重新整理一个新的index。

pd.concat([df1, df4], axis=1, ignore_index=True) 

    0    1    2   3   4   5

0   A0   B0   C0  C3  E3  F3

1   A1   B1   C1  C4  E4  F4

2   A2   B2   C2  C5  E5  F5

3   A3   B3   C3  C6  E6  F6

4  NaN  NaN  NaN  C7  E7  F7

5  NaN  NaN  NaN  C8  E8  F8
六、增加区分组键

前面提到的keys参数可以用来给合并后的表增加key来区分不同的表数据来源

1、可以直接用key参数实现

pd.concat([df1,df2,df3], keys=['x', 'y', 'z'])

 A    B    C

x 0   A0   B0   C0

  1   A1   B1   C1

  2   A2   B2   C2

  3   A3   B3   C3

y 0   A4   B4   C4

  1   A5   B5   C5

  2   A6   B6   C6

  3   A7   B7   C7

z 0   A8   B8   C8

  1   A9   B9   C9

  2  A10  B10  C10

  3  A11  B11  C11

2、传入字典来增加分组键

frames = {'df1':df1, 'df2':df2,'df3':df3}
result = pd.concat(frames)
   A    B    C
df1 0   A0   B0   C0
    1   A1   B1   C1
    2   A2   B2   C2
    3   A3   B3   C3
df2 0   A4   B4   C4
    1   A5   B5   C5
    2   A6   B6   C6
    3   A7   B7   C7
df3 0   A8   B8   C8
    1   A9   B9   C9
    2  A10  B10  C10
    3  A11  B11  C11

七、加入新的行

1、列字段相同的加入

append方法可以将 series 和 字典就够的数据作为dataframe的新一行插入。

s2 = pd.Series(['X0', 'X1', 'X2', 'X3'], index=['A', 'B', 'C', 'D'])

df1.append(s2, ignore_index=True)

  A   B   C    D

0  A0  B0  C0  NaN

1  A1  B1  C1  NaN

2  A2  B2  C2  NaN

3  A3  B3  C3  NaN

4  X0  X1  X2   X3

2、列字段不同的加入

如果遇到两张表的列字段本来就不一样,但又想将两个表合并,其中无效的值用nan来表示。那么可以使用ignore_index来实现。

dicts = [{'A': 1, 'B': 2, 'C': 3, 'X': 4},

         {'A': 5, 'B': 6, 'C': 7, 'Y': 8}]

df1.append(dicts, ignore_index=True)

 A   B   C    X    Y

0  A0  B0  C0  NaN  NaN

1  A1  B1  C1  NaN  NaN

2  A2  B2  C2  NaN  NaN

3  A3  B3  C3  NaN  NaN

4   1   2   3  4.0  NaN

5   5   6   7  NaN  8.0


相关推荐

其实TensorFlow真的很水无非就这30篇熬夜练

好的!以下是TensorFlow需要掌握的核心内容,用列表形式呈现,简洁清晰(含表情符号,<300字):1.基础概念与环境TensorFlow架构(计算图、会话->EagerE...

交叉验证和超参数调整:如何优化你的机器学习模型

准确预测Fitbit的睡眠得分在本文的前两部分中,我获取了Fitbit的睡眠数据并对其进行预处理,将这些数据分为训练集、验证集和测试集,除此之外,我还训练了三种不同的机器学习模型并比较了它们的性能。在...

机器学习交叉验证全指南:原理、类型与实战技巧

机器学习模型常常需要大量数据,但它们如何与实时新数据协同工作也同样关键。交叉验证是一种通过将数据集分成若干部分、在部分数据上训练模型、在其余数据上测试模型的方法,用来检验模型的表现。这有助于发现过拟合...

深度学习中的类别激活热图可视化

作者:ValentinaAlto编译:ronghuaiyang导读使用Keras实现图像分类中的激活热图的可视化,帮助更有针对性...

超强,必会的机器学习评估指标

大侠幸会,在下全网同名[算法金]0基础转AI上岸,多个算法赛Top[日更万日,让更多人享受智能乐趣]构建机器学习模型的关键步骤是检查其性能,这是通过使用验证指标来完成的。选择正确的验证指...

机器学习入门教程-第六课:监督学习与非监督学习

1.回顾与引入上节课我们谈到了机器学习的一些实战技巧,比如如何处理数据、选择模型以及调整参数。今天,我们将更深入地探讨机器学习的两大类:监督学习和非监督学习。2.监督学习监督学习就像是有老师的教学...

Python教程(三十八):机器学习基础

...

Python 模型部署不用愁!容器化实战,5 分钟搞定环境配置

你是不是也遇到过这种糟心事:花了好几天训练出的Python模型,在自己电脑上跑得顺顺当当,一放到服务器就各种报错。要么是Python版本不对,要么是依赖库冲突,折腾半天还是用不了。别再喊“我...

超全面讲透一个算法模型,高斯核!!

...

神经网络与传统统计方法的简单对比

传统的统计方法如...

AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程

...

自回归滞后模型进行多变量时间序列预测

下图显示了关于不同类型葡萄酒销量的月度多元时间序列。每种葡萄酒类型都是时间序列中的一个变量。假设要预测其中一个变量。比如,sparklingwine。如何建立一个模型来进行预测呢?一种常见的方...

苹果AI策略:慢哲学——科技行业的“长期主义”试金石

苹果AI策略的深度原创分析,结合技术伦理、商业逻辑与行业博弈,揭示其“慢哲学”背后的战略智慧:一、反常之举:AI狂潮中的“逆行者”当科技巨头深陷AI军备竞赛,苹果的克制显得格格不入:功能延期:App...

时间序列预测全攻略,6大模型代码实操

如果你对数据分析感兴趣,希望学习更多的方法论,希望听听经验分享,欢迎移步宝藏公众号...

AI 基础知识从 0.4 到 0.5—— 计算机视觉之光 CNN

...

取消回复欢迎 发表评论: