MySQL中实现“不存在则插入”的方法
ztj100 2025-05-05 20:15 37 浏览 0 评论
技术背景
在MySQL数据库操作中,当需要向已有大量数据(如拥有约1400万条记录的表)的表中添加新数据时,为避免数据重复,需要实现“不存在则插入”的功能。传统的使用一对查询(一个查询检查,一个查询插入)的方式效率较低,因此需要探索更高效的方法。
实现步骤
1. 使用INSERT IGNORE INTO
这种方法会忽略插入过程中出现的错误,若插入的记录已存在(违反唯一约束),则会被默默跳过。 示例代码如下:
INSERT IGNORE INTO `transcripts`
SET `ensembl_transcript_id` = 'ENSORGT00000000001',
`transcript_chrom_start` = 12345,
`transcript_chrom_end` = 12678;
该方法的优点是简单直接,缺点是如果出现其他问题(如非唯一约束相关的错误),查询也不会中止,可能会掩盖其他问题。因此,建议先在不使用IGNORE关键字的情况下进行测试。
2. 使用REPLACE INTO
若记录已存在,它会先删除原记录,再插入新记录;若记录不存在,则直接插入。 示例代码如下:
REPLACE INTO `transcripts`
SET `ensembl_transcript_id` = 'ENSORGT00000000001',
`transcript_chrom_start` = 12345,
`transcript_chrom_end` = 12678;
不过,此方法效率不高,因为它涉及删除和插入操作,且可能会触发相关的删除触发器,导致其他约束对象被删除。
3. 使用INSERT … ON DUPLICATE KEY UPDATE
当插入的记录违反唯一约束时,执行UPDATE操作;若不违反,则正常插入。 示例代码如下:
INSERT INTO table (a,b,c) VALUES (1,2,3)
ON DUPLICATE KEY UPDATE c=c+1;
该方法的优势在于只忽略重复键事件,遇到其他错误时仍会中止查询。
4. 使用SELECT结合WHERE NOT EXISTS
通过子查询判断要插入的数据是否已存在,若不存在则插入。 示例代码如下:
INSERT INTO `table` (`value1`, `value2`)
SELECT 'stuff for value1', 'stuff for value2' FROM DUAL
WHERE NOT EXISTS (SELECT * FROM `table`
WHERE `value1`='stuff for value1' AND `value2`='stuff for value2' LIMIT 1)
这种方法适用于表中没有唯一键的情况。
核心代码
以下是使用INSERT … ON DUPLICATE KEY UPDATE实现“不存在则插入,存在则更新”的示例代码:
INSERT INTO products (product_name, price) VALUES ('iPhone 15', 999)
ON DUPLICATE KEY UPDATE price = 999;
若products表中存在product_name为iPhone 15的记录,则更新其price为999;若不存在,则插入该记录。
最佳实践
- 若表中有唯一键,优先考虑使用INSERT … ON DUPLICATE KEY UPDATE,它能在处理重复记录时避免不必要的删除和插入操作,同时能正确处理其他错误。
- 若仅需忽略重复记录,不关心其他错误,可使用INSERT IGNORE INTO。
- 若表中无唯一键,可使用SELECT结合WHERE NOT EXISTS的方法。
常见问题
1. INSERT IGNORE INTO会导致主键出现间隙吗?
会。INSERT IGNORE INTO无论插入是否成功,都会像普通INSERT一样增加主键值,可能导致主键出现间隙。若应用程序依赖完美递增的主键,这可能会带来问题。可考虑设置innodb_autoinc_lock_mode = 0(会有轻微性能损失),或先使用SELECT检查再插入(会有性能损失和额外代码)。
2. REPLACE INTO有什么副作用?
REPLACE INTO会先删除原记录再插入新记录,可能会触发删除触发器,导致其他约束对象被删除。并且,根据MySQL手册,只有当表有主键或唯一索引时,REPLACE才有意义,否则它等同于INSERT。
3. INSERT … ON DUPLICATE KEY UPDATE会影响自增列吗?
当插入失败(因重复键)而执行UPDATE操作时,INSERT … ON DUPLICATE KEY UPDATE会使自增列递增,因为它并非真正的插入失败,而是进行了更新操作。
相关推荐
- Java对象序列化与反序列化的那些事
-
Java对象序列化与反序列化的那些事在Java的世界里,对象序列化和反序列化就像一对孪生兄弟,它们共同构成了Java对象存储和传输的基础。如果你曾经尝试将对象保存到文件中,或者在网络中传输对象,那么你...
- 集合或数组转成String字符串(集合怎么转换成字符串)
-
1.将集合转成String字符串Strings="";for(inti=0;i<numList.size;i++){if(s==""){s=numL...
- java学习分享:Java截取(提取)子字符串(substring())
-
在String中提供了两个截取字符串的方法,一个是从指定位置截取到字符串结尾,另一个是截取指定范围的内容。下面对这两种方法分别进行介绍。1.substring(intbeginIndex)形...
- deepseek提示词:sql转c#代码示例。
-
SELECTRIGHT('0000'+CAST(DATEDIFF(DAY,'2024-01-01',GETDATE())ASVARCHAR(4)),4)...
- Java 21 新特性的实践,确实很丝滑!
-
1虚拟线程创建虚拟线程...
- 为什么Java中的String是不可变的(Immutable)
-
在Java中,String类型是用于表示字符串的类,而字符串则是字符序列,是Java编程中最常用的数据类型之一。String类是不可变的,这意味着一旦创建,字符串的值就不能改变,下面我们就来介绍一下为...
- Java中读取File文件内容转为String类型
-
@Java讲坛杨工开发中常常会碰到读取磁盘上的配置文件等内容,然后获取文件内容转字符串String类型,那么就需要编写一个API来实现这样的功能。首先准备一个测试需要的文件test.xml...
- 从Pandas快速切换到Polars :数据的ETL和查询
-
对于我们日常的数据清理、预处理和分析方面的大多数任务,Pandas已经绰绰有余。但是当数据量变得非常大时,它的性能开始下降。我们以前的两篇文章来测试Pandas1.5.3、polar和Pandas...
- Pandas高手养成记:10个鲜为人知的高效数据处理技巧
-
Pandas是Python中非常强大的数据分析库,提供了高效的数据结构和数据处理工具。以下是一些鲜为人知但极其有用的Pandas数据处理技巧,可以帮助你提高工作效率:使用.eval()执行行...
- 灵活筛选数据,pandas无需指定行列的筛选方法,步骤详解
-
pandas库可轻松地筛选出符合特定条件的数据,无需指定筛选的行和列。通过灵活运用pandas的筛选功能,我们能够高效、准确地获取到感兴趣的数据,本文将介绍以下几种方法,在不指定行列的情况下使用pan...
- 【Pandas】(4)基本操作(pandas的基本操作)
-
选择数据获取列单列获取要获取DataFrame的单个列,你可以使用列名以两种不同的方式:...
- 「Python数据分析」Pandas基础,用iloc函数按行列位置选择数据
-
前面我们学过,使用loc函数,通过数据标签,也就是行标签和列标签来选择数据。行和列的标签,是在数据获取,或者是生成的时候,就已经定义好的。行数据标签,也就是唯一标识数据,不重复的一列,相当于数据库中的...
- Python数据的选取和处理(python数据提取方法)
-
importpandasaspdimportnumpyasnpdata=pd.DataFrame(np.arange(1,10).reshape(3,3),index=['...
- 天秀!一张图就能彻底搞定Pandas(10分钟搞定pandas)
-
作者:刘早起公众号:早起Python大家好,在三月初,我曾给大家分享过一份Matplotlib绘图小抄,详见收下这份来自GitHub的神器,一图搞定Matplotlib!昨天在面向GitHub编程时,...
- Python学不会来打我(92)python代码调试知识总结(五)属性问题
-
Attributeerror是属性问题,这个问题的报错也经常会出现,今天我们就分享一下:Python中引发AttributeError的常见原因及对应解决方案的详细分析。...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- idea eval reset (50)
- vue dispatch (70)
- update canceled (42)
- order by asc (53)
- spring gateway (67)
- 简单代码编程 贪吃蛇 (40)
- transforms.resize (33)
- redisson trylock (35)
- 卸载node (35)
- np.reshape (33)
- torch.arange (34)
- npm 源 (35)
- vue3 deep (35)
- win10 ssh (35)
- vue foreach (34)
- idea设置编码为utf8 (35)
- vue 数组添加元素 (34)
- std find (34)
- tablefield注解用途 (35)
- python str转json (34)
- java websocket客户端 (34)
- tensor.view (34)
- java jackson (34)
- vmware17pro最新密钥 (34)
- mysql单表最大数据量 (35)