百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

服了!Delete同一行记录也会造成死锁?!

ztj100 2024-12-28 16:53 28 浏览 0 评论

分享概要

一、问题背景

二、MySQL 锁回顾

三、DELETE 流程

四、原因剖析

五、现场还原

六、问题思考

  • 可以通过 SELECT FOR UPDATE 避免吗
  • 只有唯一索引会有这个问题吗
  • 持有记录锁后再请求临键锁为什么需要等待
  • 高版本的 MySQL 会存在 DELETE 死锁吗

七、事后总结

八、参考


一、问题背景


“哥们,又双叒叕写了个死锁,秀啊!”



就算是经常写死锁的同学看到估计都会有点懵,两条一模一样的 DELETE 语句怎么会产生死锁呢?


二、MySQL 锁回顾


看到这里的靓仔肯定对 MySQL 的锁非常了解,哥们还是带大家对锁的分类进行快速回顾;


本文将基于 MySQL 5.7.21 版本进行讨论,该版本使用 InnoDB 存储引擎,并采用 Repeated Read 作为事务隔离级别。



要查看 MySQL 的加锁信息,必须启用 InnoDB 状态监控功能;


SET GLOBAL innodb_status_output=ON;
SET GLOBAL innodb_status_output_locks=ON;


要获取 InnoDB 存储引擎的详细状态信息,可以使用以下 SQL 命令;


SHOW ENGINE INNODB STATUS;


三、DELETE 流程


在深入分析问题原因之前先对 DELETE 操作的基本流程进行复习。众所周知,MySQL 以页作为数据的基本存储单位,每个页内包含两个主要的链表:正常记录链表和垃圾链表。每条记录都有一个记录头,记录头中包括一个关键属性——deleted_flag。



执行 DELETE 操作期间,系统首先将正常记录的记录头中的 delete_flag 标记设置为 1。这一步骤也被称为 delete mark,是数据删除流程的一部分。



在事务成功提交之后,由 purge 线程 负责对已标记为删除的数据执行逻辑删除操作。这一过程包括将记录从正常记录链表中移除,并将它们添加到垃圾链表中,以便后续的清理工作。



针对不同状态下的记录,MySQL 在加锁时采取不同的策略,特别是在处理唯一索引上记录的加锁情况。以下是具体的加锁规则:


  • 正常记录:对于未被标记为删除的记录,MySQL 会施加记录锁,以确保事务的隔离性和数据的一致性。
  • delete mark:当记录已被标记为删除(即 delete_flag 被设置为1),但尚未由 purge 线程清理时,MySQL 会对这些记录施加临键锁,以避免在清理前发生数据冲突。


  • 已删除记录:对于已经被 purge 线程逻辑删除的记录,MySQL 会施加间隙锁,这允许在已删除记录的索引位置插入新记录,同时保持索引的完整性和顺序性。


四、原因剖析


在分析死锁的案例中,我们关注的表 t_order_extra_item_15 具有一个由 (order_id, extra_key) 组成的联合唯一索引。为了更好地理解死锁的产生机制,我们将对上述死锁日志进行简化处理。



事务137060372(A)

事务137060371(B)

执行语句

delete from t_order_extra_item_15 WHERE (order_id = xxx and extra_key = xxx)

delete from t_order_extra_item_15 WHERE (order_id = xxx and extra_key = xxx)

持有锁


lock_mode X locks rec but not gap(记录锁)

等待锁

lock_mode X locks rec but not gap waiting(记录锁)

lock_mode X waiting(临键锁)


事务 A 试图获取记录锁,但被事务 B 持有的相同的记录锁所阻塞。而且,事务 B 在尝试获取临键锁时也遇到了阻塞,这是因为事务 A 先前已经请求了记录锁,从而形成了一种相互等待的状态,这种情况最终导致了死锁的发生。


然而事务 B 为何在已经持有记录锁的情况下还需要等待临键锁?唯一合理的解释是,在事务 B 最初执行 DELETE 操作时,它所尝试操作的记录已经被其他事务锁定。当这个其他事务完成了 delete mark 并提交后,事务 B 不得不重新发起对临键锁的请求。


经过深入分析得出结论,在并发环境中,必然存在另一个执行相同 DELETE 操作的事务,我们称之为事务 C。


通过仔细分析业务代码和服务日志,我们迅速验证了这一假设。现在,导致死锁的具体原因已经非常明显。为了帮助大家更好地理解三个事务的执行顺序,我们制定了一个事务执行时序的设想表格。





事务 A

事务 B

事务 C



1. delete from t_order_extra_item_15 WHERE (order_id = xxx and extra_key = xxx ) )
获取记录锁成功(
lock_mode X locks rec but not gap


2. delete from t_order_extra_item_15 WHERE (order_id = xxx and extra_key = xxx ) )
等待获取记录锁(
lock_mode X locks rec but not gap waiting


3. delete from t_order_extra_item_15 WHERE (order_id = xxx and extra_key = xxx ) )
等待获取记录锁(
lock_mode X locks rec but not gap waiting





4. delete mark 设置记录头删除标识位
delete_flag=1



5. 事务提交


6. 获取记录锁成功
记录状态变更重新获取临键锁(
lock_mode X


7. 发现死锁,回滚该事务
WE ROLL BACK TRANSACTION




8. 事务提交



在执行流程的第 6 步中,事务 B 尝试重新获取临键锁,这时与事务 A 发生了相互等待的状况,导致死锁的发生。为解决这一问题,数据库管理系统自动回滚了事务 A,以打破死锁状态。


五、现场还原


哥们深知道理论分析至关重要,实践才是检验真理的唯一标准。Talk is cheap, Show me the code. 在相同的系统环境下,我们创建了一个测试表来模拟实际情况;


CREATE TABLE `t_lock` (
  `id` int NOT NULL,
  `uniq` int NOT NULL,
  `idx` int NOT NULL,
  PRIMARY KEY (`id`),
  UNIQUE KEY `uniq` (`uniq`) USING BTREE,
  KEY `idx` (`idx`)
);


INSERT INTO t_lock VALUES (1, 1, 1);
INSERT INTO t_lock VALUES (5, 5, 5);
INSERT INTO t_lock VALUES (10, 10, 10);


大聪明一上来便直接手动开启 3 个 MySQL 命令列界面,每个界面中独立开启事务执行 DELETE FROM t_lock where uniq = 5; 语句,然而实验结果并未能成功复现先前讨论的死锁状况。


经过反复 SHOW ENGINE INNODB STATUS; 检查锁的状态得出结论:在 DELETE 操作中,加锁和 delete mark 是连续的不可分割的步骤,不受人为干预。一旦一个事务开始执行 DELETE,其他事务对该记录的访问请求将自动转为临键锁,避免了死锁的发生。


为了更准确地模拟并发环境下 DELETE 操作可能导致的死锁,这里采用 Java 语言编写了一个示例程序;


public class Main {


    private static final String URL = "jdbc:mysql://localhost:3306/db_test";
    private static final String USER = "root";
    private static final String PASSWORD = "123456";
    private static final String SQL = "DELETE FROM t_lock WHERE uniq = 5;";


    public static void main(String[] args) {
        // 开启 3 个线程,模拟并发删除
        for (int i = 0; i < 3; i++) {
            new Thread(Main::executeSQL).start();
        }
    }


    public static void executeSQL() {
        try (
                Connection connection = DriverManager.getConnection(URL, USER, PASSWORD);
                Statement statement = connection.createStatement()
        ) {
            System.out.println(LocalTime.now() + ":" + Thread.currentThread().getName());
            // 关闭自动提交
            connection.setAutoCommit(false);
            int rows = statement.executeUpdate(SQL);
            // 延时 5 秒便于观察加锁信息
            Thread.sleep(5000);
            connection.commit();
            System.out.println(LocalTime.now() + ":" + Thread.currentThread().getName() + ":" + rows);
        } catch (Exception e) {
            // 死锁堆栈输出
            e.printStackTrace();
        }
    }
}


果不其然,程序执行异常,异常堆栈中清晰地记录了死锁信息。进一步检查 MySQL 服务端的死锁日志,与线上业务的死锁日志如出一辙。程序执行过程中三个并发事务的加锁信息,和文章第四段的原因分析完全一致。这证实了我们的现场模拟成功复现了死锁情况。


六、问题思考


1、可以通过 SELECT FOR UPDATE 避免吗


不行。SELECT FOR UPDATE 的加锁逻辑与 DELETE 语句的加锁逻辑是一致的。加锁的类型完全取决于被加锁记录的状态。由于这一机制,使用 SELECT FOR UPDATE 并不能解决由 DELETE 操作引起的死锁问题。


2、只有唯一索引会有这个问题吗


的确,只有唯一索引会引发此类死锁问题,主键索引和普通索引均不会。在上述的系统环境下的实验结果表明,不同索引类型在索引等值加 X 锁情况下的行为如下:



主键索引

唯一索引

普通索引

正常记录

记录锁

记录锁

临键锁

delete mark

记录锁

临键锁

临键锁

已删除记录

间隙锁

间隙锁

间隙锁


唯一索引在处理"正常记录"时施加的是记录锁,但在处理处于"delete mark"状态的记录时,它施加的是临键锁。这种加锁类型的不一致性,在执行并发的 DELETE 操作时,增加了导致死锁的风险。


3、持有记录锁后再请求临键锁为什么需要等待


因为在同一行记录上过去已经有事务在等待获取锁了,为了避免锁饥饿现象的发生,先前请求加锁的事务在锁释放后将获得优先权。口说无凭,大聪明直接开启 2 个 MySQL 命令列界面,分别执行 DELETE FROM t_lock where uniq = 5; 语句,实际操作结果如下:




事务 A

事务 B

1. delete from t_lock WHERE uniq = 5;
获取记录锁成功(
lock_mode X locks rec but not gap


2. delete mark 设置记录头删除标识位
delete_flag=1



3. delete from t_lock WHERE uniq = 5;
等待获取临键锁(
lock_mode X waiting

4. delete from t_lock WHERE uniq = 5;
获取临键锁成功(
lock_mode X



5. 发现死锁,回滚该事务
WE ROLL BACK TRANSACTION

6. 事务提交



在操作流程的第四步中,事务 A 尝试请求对 uniq = 5 的临键锁,发现事务 B 已经先行一步请求了同一行记录上的临键锁。然而,事务 B 的这一请求由于事务 A 持有的记录锁而被阻塞,从而相互等待造成了死锁现象。


4、高版本的 MySQL 会存在 DELETE 死锁吗


在 MySQL 环境 8.x 版本环境中,DELETE 操作引发的死锁情况得到了改进。通过观察加锁日志发现,事务在对于 delete mark 的记录加锁时,如果已经持有了该记录的记录锁,他将获取间隙锁而不是临键锁,这一变化有效避免了死锁的发生。


具体的加锁信息在此略去,大伙们若感兴趣可以亲自进行验证。


七、事后总结


问题的来龙去脉都已梳理清晰,解决方案可归纳为以下几种:


  • 升级 MySQL 版本:升级到最新版本可能会带来人力成本和系统风险;
  • 更改隔离级别 RC:可以解决死锁问题,但会引入脏读和幻读现象;
  • 放任不管:不影响数据一致性,会导致服务和数据库出现异常;
  • 引入分布式锁:开发成本相对较小,且影响范围可控,已被采纳;

相关推荐

其实TensorFlow真的很水无非就这30篇熬夜练

好的!以下是TensorFlow需要掌握的核心内容,用列表形式呈现,简洁清晰(含表情符号,<300字):1.基础概念与环境TensorFlow架构(计算图、会话->EagerE...

交叉验证和超参数调整:如何优化你的机器学习模型

准确预测Fitbit的睡眠得分在本文的前两部分中,我获取了Fitbit的睡眠数据并对其进行预处理,将这些数据分为训练集、验证集和测试集,除此之外,我还训练了三种不同的机器学习模型并比较了它们的性能。在...

机器学习交叉验证全指南:原理、类型与实战技巧

机器学习模型常常需要大量数据,但它们如何与实时新数据协同工作也同样关键。交叉验证是一种通过将数据集分成若干部分、在部分数据上训练模型、在其余数据上测试模型的方法,用来检验模型的表现。这有助于发现过拟合...

深度学习中的类别激活热图可视化

作者:ValentinaAlto编译:ronghuaiyang导读使用Keras实现图像分类中的激活热图的可视化,帮助更有针对性...

超强,必会的机器学习评估指标

大侠幸会,在下全网同名[算法金]0基础转AI上岸,多个算法赛Top[日更万日,让更多人享受智能乐趣]构建机器学习模型的关键步骤是检查其性能,这是通过使用验证指标来完成的。选择正确的验证指...

机器学习入门教程-第六课:监督学习与非监督学习

1.回顾与引入上节课我们谈到了机器学习的一些实战技巧,比如如何处理数据、选择模型以及调整参数。今天,我们将更深入地探讨机器学习的两大类:监督学习和非监督学习。2.监督学习监督学习就像是有老师的教学...

Python教程(三十八):机器学习基础

...

Python 模型部署不用愁!容器化实战,5 分钟搞定环境配置

你是不是也遇到过这种糟心事:花了好几天训练出的Python模型,在自己电脑上跑得顺顺当当,一放到服务器就各种报错。要么是Python版本不对,要么是依赖库冲突,折腾半天还是用不了。别再喊“我...

超全面讲透一个算法模型,高斯核!!

...

神经网络与传统统计方法的简单对比

传统的统计方法如...

AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程

...

自回归滞后模型进行多变量时间序列预测

下图显示了关于不同类型葡萄酒销量的月度多元时间序列。每种葡萄酒类型都是时间序列中的一个变量。假设要预测其中一个变量。比如,sparklingwine。如何建立一个模型来进行预测呢?一种常见的方...

苹果AI策略:慢哲学——科技行业的“长期主义”试金石

苹果AI策略的深度原创分析,结合技术伦理、商业逻辑与行业博弈,揭示其“慢哲学”背后的战略智慧:一、反常之举:AI狂潮中的“逆行者”当科技巨头深陷AI军备竞赛,苹果的克制显得格格不入:功能延期:App...

时间序列预测全攻略,6大模型代码实操

如果你对数据分析感兴趣,希望学习更多的方法论,希望听听经验分享,欢迎移步宝藏公众号...

AI 基础知识从 0.4 到 0.5—— 计算机视觉之光 CNN

...

取消回复欢迎 发表评论: