VLOOKUP函数为Excel王牌数据匹配查找函数,不过受限于Excel公式执行逻辑。如果遇到数据体量比较大时,使用VLOOKUP函数实现数据匹配查找,速度可能让你焦躁跺脚。百万条数据如果在数据库内匹配轻松完成,但Excel可能捉襟见肘。
一种方案就是将数据传递到数据库执行,但过程比较繁琐。Python为大体量数据匹配提供了一种很好选择。数据执行的基本逻辑很简单。
将Excel内大体量数据传递到Python pandas dataframe数数据框内,利用dataframe数据匹配函数实现。再将匹配结果返回到Excel表格之中。
在Excel内模拟一百万条数据。在另外一张匹配表之中,需要将原始数据之中,相同编码的数据匹配到该表之中。因为数据体量比较大,使用VLOOKUP函数,完成该匹配工作,将耗费数个小时。如果使用Python来完成,只需要几分钟就能够解决。
在Excel内,先激活“原始数据”标签。再在EFunction jupyter面板内,执行以下代码,将该表格内数据载入到Python环境变量之中。
origin_data = %ef_get
将原始数据载入Python环境后,激活“匹配数据”标签,执行以下代码,将匹配数据载入Python环境变量
match_data = %ef_get
数据载入完成后。获得“origin_data”和“match_data”两个dataframe数据框。就可以使用pandas的merge函数,实现数据匹配了。在jupyter内执行以下代码。将匹配结果保存在result_data变量之中。
result_data = match_data.merge(origin_data,how='left',on='编码')
将保存结果的表格激活,使用以下命令将匹配记过数据保存到Excel之中。这里需要注意以下命令或覆盖激活的Excel sheet标签内数据。如果不想数据被覆盖,应该先激活一张空白表格。
%ef_set result_data
最终效果如下图所示:
注意事项:
- 因为jupyter notebook适合流式编写脚本。EFunction %ef_get魔法函数,从Excel之中获取数据只能够从当前表格之中获取数据,所以需要获取第一个表格数据后,再激活另外一张表格,再获取数据。
- EFunction %ef_set魔法函数,会将dataframe变量数据写入并且覆盖当前活动的sheet表格,因此在写入数据前,先确保被写入数据的表格被选中,以免一些数据被覆盖。