百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

阿里技术解密:为什么超过三张表禁止join?

ztj100 2025-05-03 17:52 13 浏览 0 评论

一、 问题提出

《阿里巴巴JAVA开发手册》里面写超过三张表禁止join,这是为什么?



二、问题分析

对这个结论,你是否有怀疑呢?也不知道是哪位先哲说的不要人云亦云,今天我设计sql,来验证这个结论。(实验没有从代码角度分析,目前达不到。可以把mysql当一个黑盒,使用角度来验证这个结论) 验证结论的时候,会有很多发现,各位往后看。

三、 实验环境

vmware10+centos7.4+mysql5.7.22

  • centos7内存4.5G,4核,50G硬盘。
  • mysql配置为2G,特别说明硬盘是SSD。

四、我概述下我的实验

有4张表,student学生表,teacher老师表,course课程表,sc中间关系表,记录了学生选修课程以及分数。具体sql脚本,看文章结尾,我附上。中间我自己写了造数据的脚本,也在结尾。

实验是为解决一个问题的:查询选修“tname553”老师所授课程的学生中,成绩最高的学生姓名及其成绩。

查询sql是:

select Student.Sname,course.cname,score 
 from Student,SC,Course ,Teacher 
 where Student.s_id=SC.s_id and SC.c_id=Course.c_id and sc.t_id=teacher.t_id 
 and Teacher.Tname='tname553' 
 and SC.score=(select max(score)from SC where sc.t_id=teacher.t_Id);

我来分析一下这个语句:4张表等值join,还有一个子查询。算是比较简单的sql语句了(相比ERP动就10张表的哦,已经很简单了)。我 还会分解这个语句成3个简单的sql:

 select max(score) from SC ,Teacher where sc.t_id=teacher.t_Id and Teacher.Tname='tname553';
 select sc.t_id,sc.s_id,score from SC ,Teacher 
 where sc.t_id=teacher.t_Id 
 and score=590 
 and Teacher.Tname='tname553';
 select Student.Sname,course.cname,score 
 from Student,SC ,course
 where Student.s_id=SC.s_id and sc.s_id in (20769800,48525000,26280200) and course.c_id = sc.c_id;

我来分析下:第一句,就是查询最高分,得到最高分590分。第二句就是查询出最高分的学生id,得到

20769800,48525000,26280200

第三句就是查询出学生名字和分数。这样这3个语句的就可以查询出来 成绩最高的学生姓名及其成绩 。

接下来我会分别造数据:1千万选课记录(一个学生选修2门课),造500万学生,100万老师(一个老师带5个学生,挺高端的吧),1000门课,。用上面查询语句查询。其中sc表我测试了下有索引和没有索引情况,具体见下表。

再接下来,我会造1亿选课记录(一个学生选修2门课),5000万学生,1000万老师,1000门课。然后分别执行上述语句。最后我会在oracle数据库上执行上述语句。

五、下面两张表是测试结果




六、仔细看上表,可以发现:

1.步骤3.1没有在连接键上加索引,查询很慢,说明:“多表关联查询时,保证被关联的字段需要有索引”;

2.步骤6.1,6.2,6.3,换成简单sql,在数据量1亿以上, 查询时间还能勉强接受。此时说明mysql查询有些吃力了,但是仍然嫩查询出来。

3.步骤5.1,mysql查询不出来,4表连接,对我本机mysql来说,1.5亿数据超过极限了(我调优过这个SQL,执行计划和索引都走了,没有问题,show profile显示在sending data.这个问题另外文章详谈。)

4.对比1.1 和5.1 步骤sql查询,4表连接,对我本机mysql来说 ,1.5千万数据查询很流利,是一个mysql数据量流利分水岭。(这个只是现象,不太准确,需要同时计算表的容量)。

5.步骤5.1对比6.1,6.2,6.3,多表join对mysql来说,处理有些吃力。

6.超过三张表禁止join,这个规则是针对mysql来说的。后续会看到我用同样机器,同样数据量,同样内存,可以完美计算 1.5亿数据量join。针对这样一个规则,对开发来说 ,需要把一些逻辑放到应用层去查询。

总结: 这个规则 超过三张表禁止join ,由于数据量太大的时候,mysql根本查询不出来,导致阿里出了这样一个规定。(其实如果表数据量少,10张表也不成问题,你自己可以试试)而我们公司支付系统朝着大规模高并发目标设计的,所以,遵循这个规定。

在业务层面来讲,写简单sql,把更多逻辑放到应用层,我的需求我会更了解,在应用层实现特定的join也容易得多。

七、让我们来看看oracle数据库的优秀表现:



看步骤7.1,就是没有索引,join表很多的情况下,oracle仍然26秒查询出结果来。所以我会说mysql的join很弱。那么问题来了,为什么现在使用很多人使用mysql呢?这是另外一个问题,我会另外说下我的思考。

看完本篇文章,另外我还附加赠送,所谓搂草打兔子。就是快速造数据。你可以自己先写脚本造数据,看看我是怎么造数据的,就知道我的技巧了。

八、附上部分截图






九、附上sql语句和造数据脚本

use stu;
drop table if exists student;
create table student 
 ( s_id int(11) not null auto_increment ,
 sno int(11), 
 sname varchar(50), 
 sage int(11), 
 ssex varchar(8) ,
 father_id int(11),
 mather_id int(11),
 note varchar(500),
 primary key (s_id),
 unique key uk_sno (sno)
 ) engine=innodb default charset=utf8mb4;
truncate table student;
 delimiter $
drop function if exists insert_student_data $
create function insert_student_data()
 returns int deterministic
 begin
 declare i int;
 set i=1;
 while i<50000000 do 
 insert into student values(i ,i, concat('name',i),i,case when floor(rand()*10)%2=0 then 'f' else 'm' end,floor(rand()*100000),floor(rand()*1000000),concat('note',i) );
 set i=i+1;
 end while;
 return 1;
 end$
delimiter ; 
select insert_student_data();
select count(*) from student;
use stu;
create table course 
 ( 
 c_id int(11) not null auto_increment ,
 cname varchar(50)
 note varchar(500), primary key (c_id)
 ) engine=innodb default charset=utf8mb4;
truncate table course;
 delimiter $
drop function if exists insert_course_data $
create function insert_course_data()
 returns int deterministic
 begin
 declare i int;
 set i=1;
 while i<=1000 do 
 insert into course values(i , concat('course',i),floor(rand()*1000),concat('note',i) );
 set i=i+1;
 end while;
 return 1;
 end$
delimiter ; 
select insert_course_data();
select count(*) from course;
use stu;
drop table if exists sc;
create table sc 
 ( 
 s_id int(11), 
 c_id int(11), 
 t_id int(11),
 score int(11) 
 ) engine=innodb default charset=utf8mb4;
truncate table sc;
 delimiter $
drop function if exists insert_sc_data $
create function insert_sc_data()
 returns int deterministic
 begin
 declare i int;
 set i=1;
 while i<=50000000 do 
 insert into sc values( i,floor(rand()*1000),floor(rand()*10000000),floor(rand()*750)) ;
 set i=i+1;
 end while;
 return 1;
 end$
delimiter ; 
select insert_sc_data();
commit;
select insert_sc_data();
commit;
create index idx_s_id on sc(s_id) ; 
create index idx_t_id on sc(t_id) ; 
create index idx_c_id on sc(c_id) ; 
select count(*) from sc;
use stu;
drop table if exists teacher;
create table teacher 
 ( 
 t_id int(11) not null auto_increment ,
 tname varchar(50) ,
 note varchar(500),primary key (t_id)
 ) engine=innodb default charset=utf8mb4;
 truncate table teacher;
 delimiter $
drop function if exists insert_teacher_data $
create function insert_teacher_data()
 returns int deterministic
 begin
 declare i int;
 set i=1;
 while i<=10000000 do 
 insert into teacher values(i , concat('tname',i),concat('note',i) );
 set i=i+1;
 end while;
 return 1;
 end$
delimiter ; 
select insert_teacher_data();
commit;
select count(*) from teacher;

这个是oracle的测试和造数据脚本

create tablespace scott_data datafile '/home/oracle/oracle_space/sitpay1/scott_data.dbf' size 1024m autoextend on; 
create tablespace scott_index datafile '/home/oracle/oracle_space/sitpay1/scott_index.dbf' size 64m autoextend on; 
create temporary tablespace scott_temp tempfile '/home/oracle/oracle_space/sitpay1/scott_temp.dbf' size 64m autoextend on; 
drop user scott cascade;
create user scott identified by tiger default tablespace scott_data temporary tablespace scott_temp ;
grant resource,connect,dba to scott;
drop table student;
create table student 
 ( s_id number(11) ,
 sno number(11) , 
 sname varchar2(50), 
 sage number(11), 
 ssex varchar2(8) ,
 father_id number(11),
 mather_id number(11),
 note varchar2(500)
 ) nologging;
truncate table student;
create or replace procedure insert_student_data
 is 
 q number(11);
 begin 
 q:=0;
 for i in 1..50 loop 
 insert /*+append*/ into student select rownum+q as s_id,rownum+q as sno, concat('sutdent',rownum+q ) as sname,floor(dbms_random.value(1,100)) as sage,'f' as ssex,rownum+q as father_id,rownum+q as mather_id,concat('note',rownum+q ) as note from dual connect by level<=1000000;
 q:=q+1000000;
 commit;
 end loop; 
end insert_student_data;
/
call insert_student_data();
alter table student add constraint pk_student primary key (s_id);
commit; 
select count(*) from student;
create table course 
 ( 
 c_id number(11) primary key,
 cname varchar2(50),
 note varchar2(500) 
 ) ;
truncate table course;
 create or replace procedure insert_course_data
 is 
 q number(11);
 begin 
 for i in 1..1000 loop 
 insert /*+append*/ into course values(i , concat('name',i),concat('note',i) ); 
 end loop; 
end insert_course_data;
/
call insert_course_data();
commit; 
select count(*) from course;
create table sc 
 ( 
 s_id number(11), 
 c_id number(11), 
 t_id number(11),
 score number(11) 
 ) nologging;
truncate table sc;
 create or replace procedure insert_sc_data
 is 
 q number(11);
 begin 
 q:=0;
 for i in 1..50 loop 
 insert /*+append*/ into sc select rownum+q as s_id, floor(dbms_random.value(0,1000)) as c_id,floor(dbms_random.value(0,10000000)) t_id,floor(dbms_random.value(0,750)) as score from dual connect by level<=1000000;
 q:=q+1000000;
 commit;
 end loop; 
end insert_sc_data;
/
call insert_sc_data();
create index idx_s_id on sc(s_id) ; 
create index idx_t_id on sc(t_id) ; 
create index idx_c_id on sc(c_id) ; 
select count(*) from sc;
create table teacher 
 ( 
 t_id number(11) ,
 tname varchar2(50) ,
 note varchar2(500)
 )nologging ;
 truncate table teacher;
create or replace procedure insert_teacher_data
 is 
 q number(11);
 begin 
 q:=0;
 for i in 1..10 loop 
 insert /*+append*/ into teacher select rownum+q as t_id, concat('teacher',rownum+q ) as tname,concat('note',rownum+q ) as note from dual connect by level<=1000000;
 q:=q+1000000;
 commit;
 end loop; 
end insert_teacher_data;
/
call insert_teacher_data();
alter table teacher add constraint pk_teacher primary key (t_id);
select count(*) from teacher;

来自 “ ITPUB博客 ” ,链接:
http://blog.itpub.net/30393770/viewspace-2650450/

相关推荐

30天学会Python编程:16. Python常用标准库使用教程

16.1collections模块16.1.1高级数据结构16.1.2示例...

强烈推荐!Python 这个宝藏库 re 正则匹配

Python的re模块(RegularExpression正则表达式)提供各种正则表达式的匹配操作。...

Python爬虫中正则表达式的用法,只讲如何应用,不讲原理

Python爬虫:正则的用法(非原理)。大家好,这节课给大家讲正则的实际用法,不讲原理,通俗易懂的讲如何用正则抓取内容。·导入re库,这里是需要从html这段字符串中提取出中间的那几个文字。实例一个对...

Python数据分析实战-正则提取文本的URL网址和邮箱(源码和效果)

实现功能:Python数据分析实战-利用正则表达式提取文本中的URL网址和邮箱...

python爬虫教程之爬取当当网 Top 500 本五星好评书籍

我们使用requests和re来写一个爬虫作为一个爱看书的你(说的跟真的似的)怎么能发现好书呢?所以我们爬取当当网的前500本好五星评书籍怎么样?ok接下来就是学习python的正确姿...

深入理解re模块:Python中的正则表达式神器解析

在Python中,"re"是一个强大的模块,用于处理正则表达式(regularexpressions)。正则表达式是一种强大的文本模式匹配工具,用于在字符串中查找、替换或提取特定模式...

如何使用正则表达式和 Python 匹配不以模式开头的字符串

需要在Python中使用正则表达式来匹配不以给定模式开头的字符串吗?如果是这样,你可以使用下面的语法来查找所有的字符串,除了那些不以https开始的字符串。r"^(?!https).*&...

先Mark后用!8分钟读懂 Python 性能优化

从本文总结了Python开发时,遇到的性能优化问题的定位和解决。概述:性能优化的原则——优化需要优化的部分。性能优化的一般步骤:首先,让你的程序跑起来结果一切正常。然后,运行这个结果正常的代码,看看它...

Python“三步”即可爬取,毋庸置疑

声明:本实例仅供学习,切忌遵守robots协议,请不要使用多线程等方式频繁访问网站。#第一步导入模块importreimportrequests#第二步获取你想爬取的网页地址,发送请求,获取网页内...

简单学Python——re库(正则表达式)2(split、findall、和sub)

1、split():分割字符串,返回列表语法:re.split('分隔符','目标字符串')例如:importrere.split(',','...

Lavazza拉瓦萨再度牵手上海大师赛

阅读此文前,麻烦您点击一下“关注”,方便您进行讨论和分享。Lavazza拉瓦萨再度牵手上海大师赛标题:2024上海大师赛:网球与咖啡的浪漫邂逅在2024年的上海劳力士大师赛上,拉瓦萨咖啡再次成为官...

ArkUI-X构建Android平台AAR及使用

本教程主要讲述如何利用ArkUI-XSDK完成AndroidAAR开发,实现基于ArkTS的声明式开发范式在android平台显示。包括:1.跨平台Library工程开发介绍...

Deepseek写歌详细教程(怎样用deepseek写歌功能)

以下为结合DeepSeek及相关工具实现AI写歌的详细教程,涵盖作词、作曲、演唱全流程:一、核心流程三步法1.AI生成歌词-打开DeepSeek(网页/APP/API),使用结构化提示词生成歌词:...

“AI说唱解说影视”走红,“零基础入行”靠谱吗?本报记者实测

“手里翻找冻鱼,精心的布局;老漠却不言语,脸上带笑意……”《狂飙》剧情被写成歌词,再配上“科目三”背景音乐的演唱,这段1分钟30秒的视频受到了无数网友的点赞。最近一段时间随着AI技术的发展,说唱解说影...

AI音乐制作神器揭秘!3款工具让你秒变高手

在音乐创作的领域里,每个人都有一颗想要成为大师的心。但是面对复杂的乐理知识和繁复的制作过程,许多人的热情被一点点消磨。...

取消回复欢迎 发表评论: