百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

Python办公自动化系列课程2:Excel大体联数据匹配只需12行代码

ztj100 2025-02-18 14:24 9 浏览 0 评论

VLOOKUP函数为Excel王牌数据匹配查找函数,不过受限于Excel公式执行逻辑。如果遇到数据体量比较大时,使用VLOOKUP函数实现数据匹配查找,速度可能让你焦躁跺脚。百万条数据如果在数据库内匹配轻松完成,但Excel可能捉襟见肘。

一种方案就是将数据传递到数据库执行,但过程比较繁琐。Python为大体量数据匹配提供了一种很好选择。数据执行的基本逻辑很简单。

将Excel内大体量数据传递到Python pandas dataframe数数据框内,利用dataframe数据匹配函数实现。再将匹配结果返回到Excel表格之中。

在Excel内模拟一百万条数据。在另外一张匹配表之中,需要将原始数据之中,相同编码的数据匹配到该表之中。因为数据体量比较大,使用VLOOKUP函数,完成该匹配工作,将耗费数个小时。如果使用Python来完成,只需要几分钟就能够解决。

在Excel内,先激活“原始数据”标签。再在EFunction jupyter面板内,执行以下代码,将该表格内数据载入到Python环境变量之中。

origin_data = %ef_get 

将原始数据载入Python环境后,激活“匹配数据”标签,执行以下代码,将匹配数据载入Python环境变量

match_data = %ef_get

数据载入完成后。获得“origin_data”和“match_data”两个dataframe数据框。就可以使用pandas的merge函数,实现数据匹配了。在jupyter内执行以下代码。将匹配结果保存在result_data变量之中。

result_data = match_data.merge(origin_data,how='left',on='编码')

将保存结果的表格激活,使用以下命令将匹配记过数据保存到Excel之中。这里需要注意以下命令或覆盖激活的Excel sheet标签内数据。如果不想数据被覆盖,应该先激活一张空白表格。

%ef_set result_data

最终效果如下图所示:

注意事项:

  • 因为jupyter notebook适合流式编写脚本。EFunction %ef_get魔法函数,从Excel之中获取数据只能够从当前表格之中获取数据,所以需要获取第一个表格数据后,再激活另外一张表格,再获取数据。
  • EFunction %ef_set魔法函数,会将dataframe变量数据写入并且覆盖当前活动的sheet表格,因此在写入数据前,先确保被写入数据的表格被选中,以免一些数据被覆盖。

相关推荐

告别手动操作:一键多工作表合并的实用方法

通常情况下,我们需要将同一工作簿内不同工作表中的数据进行合并处理。如何快速有效地完成这些数据的整合呢?这主要取决于需要合并的源数据的结构。...

【MySQL技术专题】「优化技术系列」常用SQL的优化方案和技术思路

概述前面我们介绍了MySQL中怎么样通过索引来优化查询。日常开发中,除了使用查询外,我们还会使用一些其他的常用SQL,比如INSERT、GROUPBY等。对于这些SQL语句,我们该怎么样进行优化呢...

9.7寸视网膜屏原道M9i双系统安装教程

泡泡网平板电脑频道4月17日原道M9i采用Win8安卓双系统,对于喜欢折腾的朋友来说,刷机成了一件难事,那么原道M9i如何刷机呢?下面通过详细地图文,介绍原道M9i的刷机操作过程,在刷机的过程中,要...

如何做好分布式任务调度——Scheduler 的一些探索

作者:张宇轩,章逸,曾丹初识Scheduler找准定位:分布式任务调度平台...

mysqldump备份操作大全及相关参数详解

mysqldump简介mysqldump是用于转储MySQL数据库的实用程序,通常我们用来迁移和备份数据库;它自带的功能参数非常多,文中列举出几乎所有常用的导出操作方法,在文章末尾将所有的参数详细说明...

大厂面试冲刺,Java“实战”问题三连,你碰到了哪个?

推荐学习...

亿级分库分表,如何丝滑扩容、如何双写灰度

以下是基于亿级分库分表丝滑扩容与双写灰度设计方案,结合架构图与核心流程说明:一、总体设计目标...

MYSQL表设计规范(mysql表设计原则)

日常工作总结,不是通用规范一、表设计库名、表名、字段名必须使用小写字母,“_”分割。...

怎么解决MySQL中的Duplicate entry错误?

在使用MySQL数据库时,我们经常会遇到Duplicateentry错误,这是由于插入或更新数据时出现了重复的唯一键值。这种错误可能会导致数据的不一致性和完整性问题。为了解决这个问题,我们可以采取以...

高并发下如何防重?(高并发如何防止重复)

前言最近测试给我提了一个bug,说我之前提供的一个批量复制商品的接口,产生了重复的商品数据。...

性能压测数据告诉你MySQL和MariaDB该怎么选

1.压测环境为了尽可能的客观公正,本次选择同一物理机上的两台虚拟机,一台用作数据库服务器,一台用作运行压测工具mysqlslap,操作系统均为UbuntuServer22.04LTS。...

屠龙之技 --sql注入 不值得浪费超过十天 实战中sqlmap--lv 3通杀全国

MySQL小结发表于2020-09-21分类于知识整理阅读次数:本文字数:67k阅读时长≈1:01...

破防了,谁懂啊家人们:记一次 mysql 问题排查

作者:温粥一、前言谁懂啊家人们,作为一名java开发,原来以为mysql这东西,写写CRUD,不是有手就行吗;你说DDL啊,不就是设计个表结构,搞几个索引吗。...

SpringBoot系列Mybatis之批量插入的几种姿势

...

MySQL 之 Performance Schema(mysql安装及配置超详细教程)

MySQL之PerformanceSchema介绍PerformanceSchema提供了在数据库运行时实时检查MySQL服务器的内部执行情况的方法,通过监视MySQL服务器的事件来实现监视内...

取消回复欢迎 发表评论: