百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

mysql数据库ORDER BY优化总结(为排序使用索引)

ztj100 2024-10-28 21:12 20 浏览 0 评论

概述

在使用order by时,经常出现Using filesort,所以对于此类sql语句我们需要去尽力优化,使其尽量使用Using index。

那么,我们对于这类型的语句我们怎么去做优化呢?因为这一块还是比较容易混淆的,所以我弄了个实验,相信大家跟我一起做下实验就都能理解了~


1、环境准备

drop table if exists test;
create table test(
id int primary key auto_increment,
c1 varchar(10),
c2 varchar(10),
c3 varchar(10),
c4 varchar(10),
c5 varchar(10)
) ENGINE=INNODB default CHARSET=utf8;

insert into test(c1,c2,c3,c4,c5) values('a1','a2','a3','a4','a5');
insert into test(c1,c2,c3,c4,c5) values('b1','b2','b3','b4','b5');
insert into test(c1,c2,c3,c4,c5) values('c1','c2','c3','c4','c5');
insert into test(c1,c2,c3,c4,c5) values('d1','d2','d3','d4','d5');
insert into test(c1,c2,c3,c4,c5) values('e1','e2','e3','e4','e5');



2、创建btree索引

create index idx_c1234 on test(c1,c2,c3,c4);
show index from test;



3、范围扫导致全表扫描

 explain select * from test where c1>'a1' order by c1;


分析:

1)在c1,c2,c3,c4上创建了索引,直接在c1上使用范围,导致了索引失效,全表扫描:type=ALL,ref=Null。因为此时c1主要用于排序,并不是查询。

2)使用c1进行排序,出现了Using filesort。

3)解决方法:使用覆盖索引。


4、覆盖索引--》优化

explain select c1 from test?where c1>'a1' order by c1;

分析:

1) 使用了覆盖索引,不走全扫,走索引范围扫描

2)排序时按照索引的顺序,所以不会出现Using filesort。

这里不懂没关系,后面我会分享索引的八大法则,保证看得懂...


5、没有按最左列索引排序

explain select c1 from test?where c1>'a1' order by c2;

分析:

这里出现了Using filesort,是因为排序用的c2,与索引的创建顺序(c1,c2,c3,c4)不一致。


6、排序索引列与索引创建的顺序相反

explain select c1 from test?where c1>'a1' order by c2,c1;


分析:

这里出现了Using filesort。因为排序索引列(c2,c1)与索引创建的顺序(c1,c2)相反,从而产生了重排,也就出现了Using filesort。


7、order by索引列排序不一致

explain select c1 from test?where c1>'a1' order by c1 asc,c2 desc;

分析:

虽然排序的字段列与索引顺序一样,且order by默认升序,这里c2 desc变成了降序,导致与索引的排序方式不同,从而产生Using filesort。如果是order by c1 asc,c2 asc或者order by c1 desc,c2 desc就会是using index了。


实验总结

1、MySQL支持两种方式的排序filesort和index

Using index是指MySQL扫描索引本身完成排序。index效率高,filesort效率低。

2、为排序使用索引

假设KEY test(a,b,c)

1)order by 能使用索引最左前缀

-order by a
-order by a,b
-order by a,b,c
-order by a asc,b asc,c asc
-order by a desc,b desc,c desc

2)如果where使用索引最左前缀定位为常量,则order by可以使用索引

-where a= const order by b,c
-where a= const and b= const order by c
-where a= const and b> consst order by b,c

3)不能使用索引进行排序

-order by a asc,b desc, c desc /*排序不一致*/
-where g=const order by b,c /*丢失a索引*/
-where a=const order by c /*丢失b索引*/
-where a=const order by a,d /*d不是索引一部分*/
-where a in (....) order by b,c /*对于排序来说,多个相等条件也是范围查询*/

3、filesort有两种排序算法:双路排序和单路排序

双路排序:在MySQL4.1之前使用双路排序,就是两次磁盘扫描,得到最终数据。读取行指针和order by列,对他们进行排序,然后扫描已经排好序的列表,按照列表中的值重新从列表中读取对应的数据输出。即从磁盘读取排序字段,在buffer进行排序,再从磁盘取其他字段。如果使用双路排序,取一批数据要对磁盘进行两次扫描,众所周知,I/O操作是很耗时的,因此在MySQL4.1以后,出现了改进的算法:单路排序。

单路排序:从磁盘中查询所需的列,按照order by列在buffer中对它们进行排序,然后扫描排序后的列表进行输出。它的效率更高一些,避免了第二次读取数据,并且把随机I/O变成了顺序I/O,但是会使用更多的空间,因为它把每一行都保存在内存中了。但当读取数据超过sort_buffer的容量时,就会导致多次读取数据,并创建临时表,最后多路合并,产生多次I/O,反而增加其I/O运算。

解决方式:

1)增加sort_buffer_size参数的设置。
2)增大max_length_for_sort_data参数的设置。

4、提升order by速度

1)在使用order by时,不要用select *,只查询所需的字段。因为当查询字段过多时,会导致sort_buffer不够,从而使用多路排序或进行多次I/O操作。
2)增加sort_buffer_size。
3)增加max_length_for_sort_data。

5、优化group by

group by与order by很类似,其实质是先排序后分组,遵照索引创建顺序的最佳左前缀法则。当无法使用索引列的时候,也要对sort_buffer_size和max_length_for_sort_data参数进行调整。注意where高于having,能写在where中的限定条件就不要去having限定了。

觉得有用的朋友多帮忙转发哦!后面会分享更多devops和DBA方面的内容,感兴趣的朋友可以关注下~


相关推荐

再说圆的面积-蒙特卡洛(蒙特卡洛方法求圆周率的matlab程序)

在微积分-圆的面积和周长(1)介绍微积分方法求解圆的面积,本文使用蒙特卡洛方法求解圆面积。...

python编程:如何使用python代码绘制出哪些常见的机器学习图像?

专栏推荐...

python创建分类器小结(pytorch分类数据集创建)

简介:分类是指利用数据的特性将其分成若干类型的过程。监督学习分类器就是用带标记的训练数据建立一个模型,然后对未知数据进行分类。...

matplotlib——绘制散点图(matplotlib散点图颜色和图例)

绘制散点图不同条件(维度)之间的内在关联关系观察数据的离散聚合程度...

python实现实时绘制数据(python如何绘制)

方法一importmatplotlib.pyplotaspltimportnumpyasnpimporttimefrommathimport*plt.ion()#...

简单学Python——matplotlib库3——绘制散点图

前面我们学习了用matplotlib绘制折线图,今天我们学习绘制散点图。其实简单的散点图与折线图的语法基本相同,只是作图函数由plot()变成了scatter()。下面就绘制一个散点图:import...

数据分析-相关性分析可视化(相关性分析数据处理)

前面介绍了相关性分析的原理、流程和常用的皮尔逊相关系数和斯皮尔曼相关系数,具体可以参考...

免费Python机器学习课程一:线性回归算法

学习线性回归的概念并从头开始在python中开发完整的线性回归算法最基本的机器学习算法必须是具有单个变量的线性回归算法。如今,可用的高级机器学习算法,库和技术如此之多,以至于线性回归似乎并不重要。但是...

用Python进行机器学习(2)之逻辑回归

前面介绍了线性回归,本次介绍的是逻辑回归。逻辑回归虽然名字里面带有“回归”两个字,但是它是一种分类算法,通常用于解决二分类问题,比如某个邮件是否是广告邮件,比如某个评价是否为正向的评价。逻辑回归也可以...

【Python机器学习系列】拟合和回归傻傻分不清?一文带你彻底搞懂

一、拟合和回归的区别拟合...

推荐2个十分好用的pandas数据探索分析神器

作者:俊欣来源:关于数据分析与可视化...

向量数据库:解锁大模型记忆的关键!选型指南+实战案例全解析

本文较长,建议点赞收藏,以免遗失。更多AI大模型应用开发学习视频及资料,尽在...

用Python进行机器学习(11)-主成分分析PCA

我们在机器学习中有时候需要处理很多个参数,但是这些参数有时候彼此之间是有着各种关系的,这个时候我们就会想:是否可以找到一种方式来降低参数的个数呢?这就是今天我们要介绍的主成分分析,英文是Princip...

神经网络基础深度解析:从感知机到反向传播

本文较长,建议点赞收藏,以免遗失。更多AI大模型应用开发学习视频及资料,尽在...

Python实现基于机器学习的RFM模型

CDA数据分析师出品作者:CDALevelⅠ持证人岗位:数据分析师行业:大数据...

取消回复欢迎 发表评论: