性能分析工具的使用
性能分析工具的使用
John Doe性能分析工具的使用
在数据库调优中,我们的目标就是响应时间更快,吞吐量更大。利用宏观的监控工具和微观的日志分析可以帮我们快速找到调优的思路和方式。
1. 数据库服务器的优化步骤
当我们遇到数据库调优问题的时候,该如何思考呢?这里把思考的流程整理成下面这张图。
整个流程划分成了 观察(Show status) 和 **行动(Action)**两个部分。字母 S 的部分代表观察(会使用相应的分析工具),字母 A 代表的部分是行动(对应分析可以采取的行动)。
我们可以通过观察了解数据库整体的运行状态,通过性能分析工具可以让我们了解执行慢的SQL都有哪些,查看具体的SQL执行计划,甚至是SQL执行中的每一步的成本代价,这样才能定位问题所在,找到了问题,再采取相应的行动。
详细解释一下这张图:
首先在S1部分,我们需要观察服务器的状态是否存在周期性的波动。如果存在周期性波动,有可能是周期性节点的原因,比如双十一、促销活动等。这样的话,我们可以通过A1这一步骤解决,也就是加缓存,或者更改缓存失效策略。
如果缓存策略没有解决,或者不是周期性波动的原因.我们就需要进一步分析查询延迟和卡顿的原因。接下来进入S2这一步,我们需要开启慢查询。慢查询可以帮我们定位执行慢的sQL语句。我们可以通过设置long_query_time参数定义”慢”的阈值,如果SQL执行时间超过了long_query_time,则会认为是慢查询。当收集上来这些慢查询之后,我们就可以通过分析工具对慢查询日志进行分析。
在S3这一步骤中,我们就知道了执行慢的SQL,这样就可以针对性地用EXPLAIN查看对应SQL语句的执行计划,或者使用show profile查看SQL中每一个步骤的时间成本。这样我们就可以了解SQL查询慢是因为执行时间长,还是等待时间长。
如果是SQL等待时间长,我们进入A2步骤。在这一步骤中,我们可以调优服务器的参数,比如适当增加数据库缓冲池等。如果是SQL执行时间长,就进入A3步骤,这一步中我们需要考虑是索引设计的问题?还是查询关联的数据表过多?还是因为数据表的字段设计问题导致了这一现象。然后在这些维度上进行对应的调整。
如果A2和A3都不能解决问题,我们需要考虑数据库自身的SQL查询性能是否已经达到了瓶颈,如果确认没有达到性能瓶颈,就需要重新检查,重复以上的步骤。如果已经达到了性能瓶颈,进入A4阶段,需要考虑增加服务器,采用读写分离的架构,或者考虑对数据库进行分库分表,比如垂直分库、垂直分表和水平分表等。
以上就是数据库调优的流程思路。如果我们发现执行SQL时存在不规则延迟或卡顿的时候,就可以采用分析工具帮我们定位有问题的QL,这三种分析工具你可以理解是SQL调优的三个步骤:慢查询、EXPLAIN和 SHOW PROFILING。
小结:
2. 查看系统性能参数
在MySQL中,可以使用 SHOW STATUS 语句查询一些MySQL数据库服务器的性能参数、执行频率 。
SHOW STATUS语句语法如下:
1 | SHOW [GLOBAL|SESSION] STATUS LIKE '参数'; |
一些常用的性能参数如下:
connections:连接MySQL服务器的次数uptime:MySQL服务器的上线时间slow_queries:慢查询的次数innodb_rows_read:Select查询返回的行数innodb_rows_inserted:执行INSERT操作插入的行数innodb_rows_updated:执行UPDATE操作更新的行数innodb_rows_deleted:执行DELETE操作删除的行数com_select:查询操作的次数com_insert:插入操作的次数。对于批量插入的 INSERT 操作,只累加一次com_update:更新操作的次数com_delete:删除操作的次数
慢查询次数参数可以结合慢查询日志找出慢查询语句,然后针对慢查询语句进行表结构优化或者查询语句优化。
比如,如下的指令可以查看相关的指令情况:
1 | SHOW STATUS LIKE 'innodb_rows_%'; |
3. 统计SQL的查询成本:last_query_cost
一条SQL查询语句在执行前需要确定查询执行计划,如果存在多种执行计划的话,MySQL会计算每个执行计划所需要的成本,从中选择成本最小的一个作为最终执行的执行计划。
如果我们想要查看某条SQL语句的查询成本,可以在执行完这条SQL语句之后,通过查看当前会话中的last_query_cost变量值来得到当前查询的成本。它通常也是我们评价一个查询的执行效率的一个常用指标。这个查询成本对应的是SQL语句所需要读取的页的数量。
我们依然使用第8章的 student_info 表为例:
1 | CREATE TABLE `student_info` ( |
如果我们想要查询 id=900001 的记录,然后看下查询成本,我们可以直接在聚簇索引上进行查找:
1 | SELECT student_id, class_id, NAME, create_time |
运行结果(1 条记录,运行时间为 0.042s )
然后再看下查询优化器的成本,实际上我们只需要检索一个页即可:
1 | mysql> SHOW STATUS LIKE 'last_query_cost'; |
如果我们想要查询 id 在 900001 到 9000100 之间的学生记录呢?
1 | SELECT student_id, class_id, NAME, create_time |
运行结果(100 条记录,运行时间为 0.046s ):
然后再看下查询优化器的成本,这时我们大概需要进行 20 个页的查询。
1 | mysql> SHOW STATUS LIKE 'last_query_cost'; |
你能看到页的数量是刚才的 20 倍,但是查询的效率并没有明显的变化,实际上这两个 SQL 查询的时间基本上一样,就是因为采用了顺序读取的方式将页面一次性加载到缓冲池中,然后再进行查找。虽然页数量(last_query_cost)增加了不少,但是通过缓冲池的机制,并没有增加多少查询时间。
**使用场景:**它对于比较开销是非常有用的,特别是我们有好几种查询方式可选的时候。
SQL查询是一个动态的过程,从页加载的角度来看,我们可以得到以下两点结论:
位置决定效率。如果页就在数据库缓冲池中,那么效率是最高的,否则还需要从内存或者磁盘中进行读取,当然针对单个页的读取来说,如果页存在于内存中,会比在磁盘中读取效率高很多。批量决定效率。如果我们从磁盘中对单一页进行随机读,那么效率是很低的(差不多10ms),而采用顺序读取的方式,批量对页进行读取,平均一页的读取效率就会提升很多,甚至要快于单个页面在内存中的随机读取。所以说,遇到I/O并不用担心,方法找对了,效率还是很高的。我们首先要考虑数据存放的位置,如果是经常使用的数据就要尽量放到
缓冲池中,其次我们可以充分利用磁盘的吞吐能力,一次性批量读取数据,这样单个页的读取效率也就得到了提升。
4. 定位执行慢的 SQL:慢查询日志
MySQL的慢查询日志,用来记录在MySQL中响应时间超过阀值的语句,具体指运行时间超过long_query_time值的SQL,则会被记录到慢查询日志中。long_query_time的默认值为10,意思是运行10秒以上(不含10秒)的语句,认为是超出了我们的最大忍耐时间值。
它的主要作用是,帮助我们发现那些执行时间特别长的SQL查询,并且有针对性地进行优化,从而提高系统的整体效率。当我们的数据库服务器发生阻塞、运行变慢的时候,检查一下慢查询日志,找到那些慢查询,对解决问题很有帮助。比如一条sql执行超过5秒钟,我们就算慢SQL,希望能收集超过5秒的sql,结合explain进行全面分析。
默认情况下,MySQL数据库没有开启慢查询日志,需要我们手动来设置这个参数。如果不是调优需要的话,一般不建议启动该参数,因为开启慢查询日志会或多或少带来一定的性能影响。
慢查询日志支持将日志记录写入文件。
1. 开启慢查询日志参数
1. 开启slow_query_log
在使用前,我们需要先看下慢查询是否已经开启,使用下面这条命令即可:
1 | mysql > set global slow_query_log='ON'; |
然后我们再来查看下慢查询日志是否开启,以及慢查询日志文件的位置:
1 | show variables like '%slow_query_log%'; |
你能看到这时慢查询分析已经开启,同时文件保存在 /var/lib/mysql/atguigu02-slow.log 文件中。
2. 修改long_query_time阈值
接下来我们来看下慢查询的时间阈值设置,使用如下命令:
1 | mysql > show variables like '%long_query_time%'; |
这里如果我们想把时间缩短,比如设置为 1 秒,可以这样设置:
1 | #测试发现:设置global的方式对当前session的long_query_time失效。对新连接的客户端有效。所以可以一并执行下述语句 |
补充:配置文件中一并设置参数
如下的方式相较于前面的命令行方式,可以看作是永久设置的方式。
修改my.cnf文件,[mysqld]下增加或修改参数long_query_time、 slow_query_log和slow_query_log_file后,然后重启MySQL服务器。
1 | [mysqld] |
如果不指定存储路径,慢查询日志将默认存储到MySQL数据库的数据文件夹下。如果不指定文件名,默认文件名为hostname-slow.log。
2. 查看慢查询数目
查询当前系统中有多少条慢查询记录
1 | SHOW GLOBAL STATUS LIKE '%Slow_queries%'; |
3. 案例演示
步骤1. 建表
1 | CREATE TABLE `student` ( |
步骤2:设置参数 log_bin_trust_function_creators
创建函数,假如报错:
1 | This function has none of DETERMINISTIC...... |
命令开启:允许创建函数设置:
1
set global log_bin_trust_function_creators=1; # 不加global只是当前窗口有效。
步骤3:创建函数
随机产生字符串:(同上一章)
1 | DELIMITER // |
产生随机数值:(同上一章)
1 | DELIMITER // |
步骤4:创建存储过程
1 | DELIMITER // |
步骤5:调用存储过程
1 | # 调用刚刚写好的函数, 4000000条记录,从100001号开始 |
4. 测试及分析
1. 测试
1 | mysql> SELECT * FROM student WHERE stuno = 3455655; |
从上面的结果可以看出来,查询学生编号为“3455655”的学生信息花费时间为2.09秒。查询学生姓名为“oQmLUr”的学生信息花费时间为2.39秒。已经达到了秒的数量级,说明目前查询效率是比较低的,下面的小节我们分析一下原因。
2. 分析
1 | show status like 'slow_queries'; |
补充说明:
除了上述变量,控制慢查询日志的还有一个系统变量: min_examined_row_limit。这个变量的意思是,查询
扫描过的最少记录数。这个变量和查询执行时间,共同组成了判别一个查询是否是慢查询的条件。如果查询扫描过的记录数大于等于这个变量的值,并且查询执行时间超过long_query_time的值,那么,这个查询就被记录到慢查询日志中;反之,则不被记录到慢查询日志中。
1
2
3
4
5
6
7 mysql> show variables like 'min%';
+------------------------+-------+
| Variable_name | Value |
+------------------------+-------+
| min_examined_row_limit | 0 |
+------------------------+-------+
1 row in set (0.00 sec)这个值默认是0。与long_query_time=10合在一起,表示只要查询的执行时间超过10秒钟,哪怕一个记录也没有扫描过,都要被记录到慢查询日志中。你也可以根据需要,通过修改“my.ini””文件,来修改查询时长,或者通过SET指令,用SQL语句修改“min_examined_row_limit”的值。
5. 慢查询日志分析工具:mysqldumpslow
在生产环境中,如果要手工分析日志,查找、分析SQL,显然是个体力活,MySQL提供了日志分析工具 mysqldumpslow 。
查看mysqldumpslow的帮助信息
1 | mysqldumpslow --help |
1 | [root@centos7-h1 ~]# mysqldumpslow --help |
mysqldumpslow 命令的具体参数如下:
-a :不将数字抽象成N,字符串抽象成S
-s :是表示按照何种方式排序:
- c :访问次数
- l :锁定时间
- r :返回记录
- t :查询时间
- al :平均锁定时间
- ar :平均返回记录数
- at :平均查询时间 (默认方式)
- ac :平均查询次数
-t :即为返回前面多少条的数据;
-g :后边搭配一个正则匹配模式,大小写不敏感的;
举例:我们想要按照查询时间排序,查看前五条 SQL 语句,这样写即可:
1 | mysqldumpslow -s t -t 5 /var/lib/mysql/atguigu01-slow.log |
1 | [root@centos7-h1 ~]# mysqldumpslow -s t -t 5 /var/lib/mysql/centos7-h1-slow.log |
工作常用参考:
1 | #得到返回记录集最多的10个SQL |
6. 关闭慢查询日志
MySQL服务器停止慢查询日志功能有两种方法:
方式1:永久性方式
1 | [mysqld] |
或者,把slow_query_log一项注释掉 或 删除
1 | [mysqld] |
重启MySQL服务,执行如下语句查询慢日志功能。
1 | SHOW VARIABLES LIKE '%slow%'; #查询慢查询日志所在目录 |
方式2:临时性方式
使用SET语句来设置。
(1)停止MySQL慢查询日志功能,具体SQL语句如下。
1 | SET GLOBAL slow_query_log=off; |
(2)重启MySQL服务,使用SHOW语句查询慢查询日志功能信息,具体SQL语句如下
1 | SHOW VARIABLES LIKE '%slow%'; |
7. 删除慢查询日志
使用SHOW语句显示慢查询日志信息,具体sQL语句如下。
1 | SHOW VARIABLES LIKE 'slow_query_log%'; |
从执行结果可以看出,慢查询日志的目录默认为MySQL的数据目录,在该目录下手动删除慢查询日志文件即可。使用命令mysqladmin flush-logs来重新生成查询日志文件,具体命令如下,执行完毕会在数据目录下重新生成慢查询日志文件。
1 | mysqladmin -uroot -p flush-logs slow |
提示
慢查询日志都是使用
mysqladmin flush-logs命令来删除重建的。使用时一定要注意,一旦执行了这个命令,慢查询日志都只存在新的日志文件中,如果需要旧的查询日志,就必须事先备份。
5. 查看 SQL 执行成本:SHOW PROFILE
show profile在《逻辑架构》章节中讲过,这里作为复习。
Show Profile是MySQL提供的可以用来分析当前会话中SQL都做了什么、执行的资源消耗情况的工具,可用于sql调优的测量。默认情况下处于关闭状态,并保存最近15次的运行结果。
我们可以在会话级别开启这个功能
1 | mysql > show variables like 'profiling'; |
通过设置 profiling=’ON’ 来开启 show profile:
1 | mysql > set profiling = 'ON'; |
然后执行相关的查询语句。接着看下当前会话都有哪些 profiles,使用下面这条命令:
1 | mysql > show profiles; |
你能看到当前会话一共有 2 个查询。如果我们想要查看最近一次查询的开销,可以使用:
1 | mysql > show profile; |
1 | mysql> show profile cpu,block io for query 2; |
show profile的常用查询参数:
① ALL:显示所有的开销信息。
② BLOCK IO:显示块IO开销。
③ CONTEXT SWITCHES:上下文切换开销。
④ CPU:显示CPU开销信息。
⑤ IPC:显示发送和接收开销信息。
⑥ MEMORY:显示内存开销信息。
⑦ PAGE FAULTS:显示页面错误开销信息。
⑧ SOURCE:显示和Source_function,Source_file,Source_line相关的开销信息。
⑨ SWAPS:显示交换次数开销信息。
日常开发需注意的结论:
① converting HEAP to MyISAM :查询结果太大,内存不够,数据往磁盘上搬了。
② Creating tmp table :创建临时表。先拷贝数据到临时表,用完后再删除临时表。
③ Copying to tmp table on disk :把内存中临时表复制到磁盘上,警惕!
④ locked 。
如果在show profile诊断结果中出现了以上4条结果中的任何一条,则sql语句需要优化。
注意:
不过 SHOW PROFILE命令将被弃用,我们可以从information_schema中的profiling数据表进行查看。
6. 分析查询语句:EXPLAIN
1. 概述
定位了查询慢的SQL之后,我们就可以使用EXPLAIN或DESCRIBE 工具做针对性的分析查询语句。DESCRIBE语句的使用方法与EXPLAIN语句是一样的,并且分析结果也是一样的。
MySQL中有专门负责优化SELECT语句的优化器模块,主要功能:通过计算分析系统中收集到的统计信息,为客户端请求的Query提供它认为最优的执行计划(他认为最优的数据检索方式,但不见得是DBA认为是最优的,这部分最耗费时间)。
这个执行计划展示了接下来具体执行查询的方式,比如多表连接的顺序是什么,对于每个表采用什么访问方法来具体执行查询等等。MySQL为我们提供了EXPLAIN语句来帮助我们查看某个查询语句的具体执行计划,大家看懂EXPLAIN语句的各个输出项,可以有针对性的提升我们查询语句的性能。
1. 能做什么?
- 表的读取顺序
- 数据读取操作的操作类型
- 哪些索引可以使用
- 哪些索引被实际使用表之间的引用
- 每张表有多少行被优化器查询
2. 官网介绍
3. 版本情况
MySQL 5.6.3以前只能
EXPLAIN SELECT;MYSQL 5.6.3以后就可以EXPLAIN SELECT,UPDATE,DELETE在5.7以前的版本中,想要显示
partitions需要使用explain partitions命令;想要显示filtered需要使用explain extended命令。在5.7版本后,默认explain直接显示partitions和filtered中的信息。
2. 基本语法
EXPLAIN 或 DESCRIBE语句的语法形式如下:
1 | EXPLAIN SELECT select_options |
如果我们想看看某个查询的执行计划的话,可以在具体的查询语句前边加一个 EXPLAIN,就像这样:
1 | mysql> EXPLAIN SELECT 1; |
EXPLAIN 语句输出的各个列的作用如下:
| 列名 | 描述 |
|---|---|
id |
在一个大的查询语句中每个SELECT关键字都对应一个唯一的id |
select_type |
SELECT关键字对应的那个查询的类型 |
table |
表名 |
partitions |
匹配的分区信息 |
type |
针对单表的访问方法 |
possible_keys |
可能用到的索引 |
key |
实际上使用的索引 |
key_len |
实际使用到的索引长度 |
ref |
当使用索引列等值查询时,与索引列进行等值匹配的对象信息 |
rows |
预估的需要读取的记录条数 |
filtered |
某个表经过搜索条件过滤后剩余记录条数的百分比 |
Extra |
一些额外的信息 |
在这里把它们都列出来只是为了描述一个轮廓,让大家有一个大致的印象。
3. 数据准备
1. 建表
1 | CREATE TABLE s1 ( |
1 | CREATE TABLE s2 ( |
2. 设置参数 log_bin_trust_function_creators
创建函数,假如报错,需开启如下命令:允许创建函数设置:
1 | set global log_bin_trust_function_creators=1; # 不加global只是当前窗口有效。 |
3. 创建函数
1 | DELIMITER // |
4. 创建存储过程
创建往s1表中插入数据的存储过程:
1 | DELIMITER // |
创建往s2表中插入数据的存储过程:
1 | DELIMITER // |
5. 调用存储过程
s1表数据的添加:加入1万条记录:
1 | CALL insert_s1(10001,10000); |
s2表数据的添加:加入1万条记录:
1 | CALL insert_s2(10001,10000); |
4. EXPLAIN各列作用
为了让大家有比较好的体验,我们调整了下 EXPLAIN 输出列的顺序。
1. table
不论我们的查询语句有多复杂,里边儿包含了多少个表,到最后也是需要对每个表进行单表访问的,所以MySQL规定EXPLAIN语句输出的每条记录都对应着某个单表的访问方法,该条记录的table列代表着该表的表名(有时不是真实的表名字,可能是简称)。
2. id
我们写的查询语句一般都以 SELECT 关键字开头,比较简单的查询语句里只有一个 SELECT 关键字,比如下边这个查询语句:
1 | SELECT * FROM s1 WHERE key1 = 'a'; |
稍微复杂一点的连接查询中也只有一个 SELECT 关键字,比如:
1 | SELECT * FROM s1 INNER JOIN s2 |
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a'; |
1 | mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2; |
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2) OR key3 = 'a'; |
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key2 FROM s2 WHERE common_field = 'a'); |
1 | mysql> EXPLAIN SELECT * FROM s1 UNION SELECT * FROM s2; |
1 | mysql> EXPLAIN SELECT * FROM s1 UNION ALL SELECT * FROM s2; |
小结:
id如果相同,可以认为是一组,从上往下顺序执行
在所有组中,id值越大,优先级越高,越先执行
关注点:id号每个号码,表示一趟独立的查询, 一个sql的查询趟数越少越好
3. select_type
一条大的查询语句里边可以包含若干个SELECT关键字,每个SELECT关键字代表着一个小的查询语句,而每个SELECT关键字的FROM子句中都可以包含若干张表(这些表用来做连接查询),每一张表都对应着执行计划输出中的一条记录,对于在同一个SELECT关键字中的表来说,它们的id值是相同的。
MySQL为每一个SELECT关键字代表的小查询都定义了一个称之为select_type的属性,意思是我们只要知道了某个小查询的select_type属性,就知道了这个小查询在整个大查询中扮演了一个什么角色,我们看一下select_type都能取哪些值,请看官方文档:
| 名称 | 描述 |
|---|---|
SIMPLE |
Simple SELECT (not using UNION or subqueries) |
PRIMARY |
Outermost SELECT |
UNION |
Second or later SELECT statement in a UNION |
UNION RESULT |
Result of a UNION |
SUBQUERY |
First SELECT in subquery |
DEPENDENT SUBQUERY |
First SELECT in subquery, dependent on outer query |
DEPENDENT UNION |
Second or later SELECT statement in a UNION, dependent on outer query |
DERIVED |
Derived table |
MATERIALIZED |
Materialized subquery |
UNCACHEABLE SUBQUERY |
A subquery for which the result cannot be cached and must be re-evaluated for each row of the outer query |
UNCACHEABLE UNION |
The second or later select in a UNION that belongs to an uncacheable subquery(see UNCACHEABLE SUBQUERY) |
具体分析如下:
1 | mysql> EXPLAIN SELECT * FROM s1; |
当然,连接查询也算是 SIMPLE 类型,比如:
1 | mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2; |
PRIMARY1
mysql> EXPLAIN SELECT * FROM s1 UNION SELECT * FROM s2;
UNION
UNION RESULT
SUBQUERY1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2) OR key3 = 'a';
DEPENDENT SUBQUERY1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2 WHERE s1.key2 = s2.key2) OR key3 = 'a';
DEPENDENT UNION1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2 WHERE key1 = 'a' UNION SELECT key1 FROM s1 WHERE key1 = 'b');
DERIVED1
mysql> EXPLAIN SELECT * FROM (SELECT key1, count(*) as c FROM s1 GROUP BY key1) AS derived_s1 where c > 1;
MATERIALIZED1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2);
UNCACHEABLE SUBQUERY
不常用,就不多说了。
UNCACHEABLE UNION
不常用,就不多说了。
4. partitions (可略)
代表分区表中的命中情况,非分区表,该项为NULL。一般情况下我们的查询语句的执行计划的
partitions列的值都是NULL。如果想详细了解,可以如下方式测试。创建分区表:
1
2
3
4
5
6
7
8
9
10-- 创建分区表,
-- 按照id分区,id<100 p0分区,其他p1分区
CREATE TABLE user_partitions(
id INT auto_increment,
NAME VARCHAR(12),PRIMARY KEY(id)
) PARTITION BY RANGE(id)(
PARTITION p0 VALUES less than(100),
PARTITION p1 VALUES less than MAXVALUE
);
1 | DESC SELECT * FROM user_partitions WHERE id>200; |
查询id大于200(200>100,p1分区)的记录,查看执行计划,partitions是p1,符合我们的分区规则
5. type ☆
执行计划的一条记录就代表着MySQL对某个表的执行查询时的访问方法,又称“访问类型”,其中的type列就表明了这个访问方法是啥,是较为重要的一个指标。比如,看到type列的值是ref,表明MySQL即将使用ref访问方法来执行对s1表的查询。
完整的访问方法如下: system , const , eq_ref , ref , fulltext , ref_or_null, index_merge , unique_subquery , index_subquery , range , index , ALL 。
我们详细解释一下:
system当表中只有一条记录并且该表使用的存储引擎的统计数据是精确的,比如MyISAM、Memory,那么对该表的访问方法就是
system。比方说我们新建一个MyISAM表,并为其插入一条记录:1
2
3
4
5mysql> CREATE TABLE t(i int) Engine=MyISAM;
Query OK, 0 rows affected (0.05 sec)
mysql> INSERT INTO t VALUES(1);
Query OK, 1 row affected (0.01 sec)
然后我们看一下查询这个表的执行计划:
1 | mysql> EXPLAIN SELECT * FROM t; |
const当我们根据主键或者唯一二级索引列与常数进行等值匹配时,对单表的访问方法就是const,比如:
1
mysql> EXPLAIN SELECT * FROM s1 WHERE id = 10005;
eq_ref在连接查询时,如果被驱动表是通过主键或者唯一二级索引列等值匹配的方式进行访问的〔如果该主键或者唯一二级索引是联合索引的话,所有的索引列都必须进行等值比较),则对该被驱动表的访问方法就是
eq_ref,比方说:1
mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.id = s2.id;
从执行计划的结果中可以看出,MySQL打算将s2作为驱动表,s1作为被驱动表,重点关注s1的访问方法是 eq_ref ,表明在访问s1表的时候可以通过主键的等值匹配 来进行访问。
ref当通过普通的二级索引列与常量进行等值匹配时来查询某个表,那么对该表的访问方法就可能是
ref,比方说下边这个查询:1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a';
fulltext全文索引
ref_or_null当对普通二级索引进行等值匹配查询,该索引列的值也可以是
NULL值时,那么对该表的访问方法就可能是ref_or_null,比如说:1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' OR key1 IS NULL;
index_merge一般情况下对于某个表的查询只能使用到一个索引,但单表访问方法时在某些场景下可以使用
Intersection、Union、Sort-Union这三种索引合并的方式来执行查询。我们看一下执行计划中是怎么体现MySQL使用索引合并的方式来对某个表执行查询的:1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' OR key3 = 'a';
从执行计划的 type列的值是 index_merge 就可以看出,MySQL打算使用索引合并的方式来执行对 s1 表的查询。
unique_subquery类似于两表连接中被驱动表的
eq_ref访问方法,unique_subquery是针对在一些包含IN子查询的查询语句中,如果查询优化器决定将IN子查询转换为EXISTS子查询,而且子查询可以使用到主键进行等值匹配的话,那么该子查询执行计划的type列的值就是unique_subquery,比如下边的这个查询语句:1
mysql> EXPLAIN SELECT * FROM s1 WHERE key2 IN (SELECT id FROM s2 where s1.key1 = s2.key1) OR key3 = 'a';
可以看到执行计划的第二条记录的type值就是unique_subquery,说明在执行子查询时会使用到id列的索引。
index_subqueryindex_subquery与unique_subquery类似,只不过访问子查询中的表时使用的是普通的索引,比如这样:1
mysql> EXPLAIN SELECT * FROM s1 WHERE common_field IN (SELECT key3 FROM s2 where s1.key1 = s2.key1) OR key3 = 'a';
range如果使用索引获取某些范围区间的记录,那么就可能使用到
range访问方法,比如下边的这个查询:1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN ('a', 'b', 'c');
或者:
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 > 'a' AND key1 < 'b'; |
index当我们可以使用索引覆盖,但需要扫描全部的索引记录时,该表的访问方法就是
index,比如这样:1
mysql> EXPLAIN SELECT key_part2 FROM s1 WHERE key_part3 = 'a';
再一次强调,对于使用InnoDB存储引擎的表来说,二级索引的记录只包含索引列和主键列的值,而聚簇索引中包含用户定义的全部列以及一些隐藏列,所以扫描二级索引的代价比直接全表扫描,也就是扫描聚簇索引的代价更低一些。
ALL最熟悉的全表扫描,就不多说了,直接看例子:
1
mysql> EXPLAIN SELECT * FROM s1;
一般来说,这些访问方法中除了All这个访问方法外,其余的访问方法都能用到索引,除了index_merge访问方法外,其余的访问方法都最多只能用到一个索引。
小结:
结果值从最好到最坏依次是: system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL 其中比较重要的几个提取出来(见上图中的蓝色)。SQL性能优化的目标:至少要达到 range 级别,要求是 ref 级别,最好是 consts 级别。(阿里巴巴开发手册要求)
6. possible_keys和key
在EXPLAIN语句输出的执行计划中,possible_keys列表示在某个查询语句中,对某个表执行单表查询时可能用到的索引有哪些。一般查询涉及到的字段上若存在索引,则该索引将被列出,但不一定被查询使用。key列表示实际用到的索引有哪些,如果为NULL,则没有使用索引。比方说下边这个查询:
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 > 'z' AND key3 = 'a'; |
7. key_len ☆
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE id = 10005; |
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key2 = 10126; |
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a'; |
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key_part1 = 'a'; |
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key_part1 = 'a' AND key_part2 = 'b'; |
练习:
key_len的长度计算公式:
1 | varchar(10)变长字段且允许NULL = 10 * ( character set:utf8=3,gbk=2,latin1=1)+1(NULL)+2(变长字段) |
8. ref
显示索引的哪一列被使用了,如果可能的话,是一个常数。哪些列或常量被用于查找索引列上的值。
当使用索引列等值匹配的条件去执行查询时,也就是在访问方法是const、eq_ref、ref、ref_or_null、unique_subquery、index_subquery其中之一时,ref列展示的就是与索引列作等值匹配的结构是什么,比如只是一个常数或者是某个列。大家看下边这个查询:
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a'; |
1 | mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.id = s2.id; |
1 | mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s2.key1 = UPPER(s1.key1); |
9. rows ☆
预估的需要读取的记录条数
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 > 'z'; |
10. filtered
某个表经过搜索条件过滤后剩余记录条数的百分比
如果使用的是索引执行的单表扫描,那么计算时需要估计出满足除使用,到对应索引的搜索条件外的其他搜索条件的记录有多少条。
对于单表查询来说,这个filtered列的值没什么意义,我们更关注在连接查询中驱动表对应的执行计划记录的filtered值,它决定了被驱动表要执行的次数(即:rows * filtered)
1 | mysql> EXPLAIN SELECT * FROM s1 WHERE key1 > 'z' AND common_field = 'a'; |
1 | mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.key1 = s2.key1 WHERE s1.common_field = 'a'; |
11. Extra ☆
顾名思义,Extra列是用来说明一些额外信息的,包含不适合在其他列中显示但十分重要的额外信息。我们可以通过这些额外信息来更准确的理解MySQL到底将如何执行给定的查询语句。MySQL提供的额外信息有好几十个,我们就不一个一个介绍了,所以我们只挑比较重要的额外信息介绍给大家。
No tables used当查询语句的没有
FROM子句时将会提示该额外信息,比如:1
mysql> EXPLAIN SELECT 1;
Impossible WHERE查询语句的
WHERE子句永远为FALSE时将会提示该额外信息1
mysql> EXPLAIN SELECT * FROM s1 WHERE 1 != 1;
Using where当我们使用全表扫描来执行对某个表的查询,并且该语句的
WHERE子句中有针对该表的搜索条件时,在Extra列中会提示上述额外信息。1
mysql> EXPLAIN SELECT * FROM s1 WHERE common_field = 'a';
当使用索引访问来执行对某个表的查询,并且该语句的
WHERE子句中有除了该索引包含的列之外的其他搜索条件时,在Extra列中也会提示上述额外信息。1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' AND common_field = 'a';
No matching min/max row当查询列表处有
MIN或者MAX聚合函数,但是并没有符合WHERE子句中的搜索条件的记录时,将会提示该额外信息1
mysql> EXPLAIN SELECT MIN(key1) FROM s1 WHERE key1 = 'abcdefg';
Using index当我们的查询列表以及搜索条件中只包含属于某个索引的列,也就是在可以使用覆盖索引的情况下,在
Extra列将会提示该额外信息。比方说下边这个查询中只需要用到idx_key1而不需要回表操作:1
mysql> EXPLAIN SELECT key1 FROM s1 WHERE key1 = 'a';
Using index condition有些搜索条件中虽然出现了索引列,但却不能使用到索引
1
SELECT * FROM s1 WHERE key1 > 'z' AND key1 LIKE '%a';
我们说回表操作其实是一个
随机IO,比较耗时,所以上述修改虽然只改进了一点点,但是可以省去好多回表操作的成本。MySQL把他们的这个改进称之为索引条件下推(英文名: Index Condition Pushdown )。如果在查询语句的执行过程中将要使用
索引条件下推这个特性,在Extra列中将会显示Using index condition,比如这样 :1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 > 'z' AND key1 LIKE '%b';
Using join buffer (Block Nested Loop)在连接查询执行过程中,当被驱动表不能有效的利用索引加快访问速度,MySQL一般会为其分配一块名叫
join buffer的内存块来加快查询速度,也就是我们所讲的基于块的嵌套循环算法1
mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.common_field = s2.common_field;
Not exists当我们使用左(外)连接时,如果
WHERE子句中包含要求被驱动表的某个列等于NULL值的搜索条件,而且那个列又是不允许存储NULL值的,那么在该表的执行计划的Extra列就会提示Not exists额外信息1
mysql> EXPLAIN SELECT * FROM s1 LEFT JOIN s2 ON s1.key1 = s2.key1 WHERE s2.id IS NULL;
Using intersect(...) 、 Using union(...) 和 Using sort_union(...)如果执行计划的
Extra列出现了Using intersect(...)提示,说明准备使用Intersect索引合并的方式执行查询,括号中的...表示需要进行索引合并的索引名称;如果出现了Using union(...)提示,说明准备使用Union索引合并的方式执行查询;出现了Using sort_union(...)提示,说明准备使用Sort-Union索引合并的方式执行查询。1
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' OR key3 = 'a';
Zero limit当我们的
LIMIT子句的参数为0时,表示压根儿不打算从表中读出任何记录,将会提示该额外信息1
mysql> EXPLAIN SELECT * FROM s1 LIMIT 0;
Using filesort有一些情况下对结果集中的记录进行排序是可以使用到索引的。
1
mysql> EXPLAIN SELECT * FROM s1 ORDER BY key1 LIMIT 10;
很多情况下排序操作无法使用到索引,只能在内存中(记录较少的时候)或者磁盘中(记录较多的时候)进行排序,MySQL把这种在内存中或者磁盘上进行排序的方式统称为文件排序(英文名:
filesort)。如果某个查询需要使用文件排序的方式执行查询,就会在执行计划的Extra列中显示Using filesort提示1
mysql> EXPLAIN SELECT * FROM s1 ORDER BY common_field LIMIT 10;
Using temporary在许多查询的执行过程中,MySQL可能会借助临时表来完成一些功能,比如去重、排序之类的,比如我们在执行许多包含
DISTINCT、GROUP BY、UNION等子句的查询过程中,如果不能有效利用索引来完成查询,MySQL很有可能寻求通过建立内部的临时表来执行查询。如果查询中使用到了内部的临时表,在执行计划的Extra列将会显示Using temporary提示1
mysql> EXPLAIN SELECT DISTINCT common_field FROM s1;
再比如:
1
mysql> EXPLAIN SELECT common_field, COUNT(*) AS amount FROM s1 GROUP BY common_field;
执行计划中出现
Using temporary并不是一个好的征兆,因为建立与维护临时表要付出很大成本的,所以我们最好能使用索引来替代掉使用临时表。比如:扫描指定的索引idx_key1即可1
mysql> EXPLAIN SELECT key1, COUNT(*) AS amount FROM s1 GROUP BY key1;
从 Extra 的 Using index 的提示里我们可以看出,上述查询只需要扫描 idx_key1 索引就可以搞定了,不再需要临时表了。
其它其它特殊情况这里省略。
12. 小结
- EXPLAIN不考虑各种Cache
- EXPLAIN不能显示MySQL在执行查询时所作的优化工作
- EXPLAIN不会告诉你关于触发器、存储过程的信息或用户自定义函数对查询的影响情况
- 部分统计信息是估算的,并非精确值
7. EXPLAIN的进一步使用
1. EXPLAIN四种输出格式
这里谈谈EXPLAIN的输出格式。EXPLAIN可以输出四种格式:传统格式 , JSON格式, TREE格式以及可视化输出。用户可以根据需要选择适用于自己的格式。
1. 传统格式
传统格式简单明了,输出是一个表格形式,概要说明查询计划。
1 | mysql> EXPLAIN SELECT s1.key1, s2.key1 FROM s1 LEFT JOIN s2 ON s1.key1 = s2.key1 WHERE s2.common_field IS NOT NULL; |
2. JSON格式
第1种格式中介绍的EXPLAIN语句输出中缺少了一个衡量执行计划好坏的重要属性一成本。而JSON格式是四种格式里面输出信息最详尽的格式,里面包含了执行的成本信息。
JSON格式:在EXPLAIN单词和真正的查询语句中间加上
FORMAT=JSON。1
EXPLAIN FORMAT=JSON SELECT ....
EXPLAIN 的Column与JSON的对应关系:(来源于MySQL 5.7文档)
这样我们就可以得到一个json格式的执行计划,里面包含该计划花费的成本,比如这样:
1 | mysql> EXPLAIN FORMAT=JSON SELECT * FROM s1 INNER JOIN s2 ON s1.key1 = s2.key2 WHERE s1.common_field = 'a'\G; |
我们使用 # 后边跟随注释的形式为大家解释了 EXPLAIN FORMAT=JSON 语句的输出内容,但是大家可能有疑问 “cost_info” 里边的成本看着怪怪的,它们是怎么计算出来的?先看 s1 表的 “cost_info” 部分:
1 | "cost_info": { |
read_cost是由下边这两部分组成的:IO成本- 检测
rows × (1 - filter)条记录的 CPU 成本
小贴士:rows和filter都是我们前边介绍执行计划的输出列,在JSON格式的执行计划中,rows相当于rows_examined_per_scan,filtered名称不变。
eval_cost是这样计算的:检测rows × filter条记录的成本。prefix_cost就是单独查询 s1 表的成本,也就是:read_cost + eval_costdata_read_per_join表示在此次查询中需要读取的数据量。
对于 s2 表的 “cost_info” 部分是这样的:
1 | "cost_info": { |
由于 s2 表是被驱动表,所以可能被读取多次,这里的 read_cost 和 eval_cost 是访问多次 s2 表后累加起来的值,大家主要关注里边儿的 prefix_cost 的值代表的是整个连接查询预计的成本,也就是单次查询 s1 表和多次查询 s2 表后的成本的和,也就是:
1 | 968.80 + 193.76 + 2034.60 = 3197.16 |
3. TREE格式
TREE格式是8.0.16版本之后引入的新格式,主要根据查询的 各个部分之间的关系 和 各部分的执行顺序 来描述如何查询。
1 | mysql> EXPLAIN FORMAT=tree SELECT * FROM s1 INNER JOIN s2 ON s1.key1 = s2.key2 WHERE |
4. 可视化输出
可视化输出,可以通过MySQL Workbench可视化查看MySQL的执行计划。通过点击Workbench的放大镜图标,即可生成可视化的查询计划。
上图按从左到右的连接顺序显示表。红色框表示全表扫描,而绿色框表示使用索引查找。对于每个表,显示使用的索引。还要注意的是,每个表格的框上方是每个表访问所发现的行数的估计值以及访问该表的成本。
2. SHOW WARNINGS的使用
在我们使用EXPLAIN语句查看了某个查询的执行计划后,紧接着还可以使用SHOW WARNINGS语句查看与这个查询的执行计划有关的一些扩展信息,比如这样:
1 | mysql> EXPLAIN SELECT s1.key1, s2.key1 FROM s1 LEFT JOIN s2 ON s1.key1 = s2.key1 WHERE s2.common_field IS NOT NULL; |
1 | mysql> show warnings\G; |
大家可以看到SHOW WARNINGS展示出来的信息有三个字段,分别是Level、Code、Message。我们最常见的就是Code为1003的信息,当Code值为1003时,Message字段展示的信息类似于查询优化器将我们的查询语句重写后的语句。比如我们上边的查询本来是一个左(外)连接查询,但是有一个s2.common_field IS NOT NULL的条件,这就会导致查询优化器把左(外)连接查询优化为内连接查询,从 SHOW WARNINGS的Message字段也可以看出来,原本的LEFT JOIN已经变成了JOIN。
但是大家一定要注意,我们说Message字段展示的信息类似于查询优化器将我们的查询语句重写后的语句,并不是等价于,也就是说Message字段展示的信息并不是标准的查询语句,在很多情况下并不能直接拿到黑框框中运行,它只能作为帮助我们理解MySQL将如何执行查询语句的一个参考依据而已。
8. 分析优化器执行计划:trace
OPTIMIZER_TRACE是MySQL 5.6引入的一项跟踪功能,它可以跟踪优化器做出的各种决策(比如访问表的方法、各种开销计算、各种转换等),并将跟踪结果记录到INFORNATION_SCHEMA.OPTIMIZER_TRACE 表中。
此功能默认关闭。开启trace,并设置格式为JSON,同时设置trace最大能够使用的内存大小,避免解析过程中因为默认内存过小而不能够完整展示。
1 | SET optimizer_trace="enabled=on",end_markers_in_json=on; |
开启后,可分析如下语句:
- SELECT
- INSERT
- REPLACE
- UPDATE
- DELETE
- EXPLAIN
- SET
- DECLARE
- CASE
- IF
- RETURN
- CALL
测试:执行如下SQL语句
1 | select * from student where id < 10; |
最后, 查询 information_schema.optimizer_trace 就可以知道MySQL是如何执行SQL的 :
1 | select * from information_schema.optimizer_trace\G; |
1 | *************************** 1. row *************************** |
9. MySQL监控分析视图-sys schema
关于MySQL的性能监控和问题诊断,我们一般都从performance_schema中去获取想要的数据,在MySQL5.7.7版本中新增sys schema,它将performance_schema和information_schema中的数据以更容易理解的方式总结归纳为”视图”,其目的就是为了降低查询performance_schema的复杂度,让DBA能够快速的定位问题。下面看看这些库中都有哪些监控表和视图,掌握了这些,在我们开发和运维的过程中就起到了事半功倍的效果。
1. Sys schema视图摘要
**1. 主机相关:**以host_summary开头,主要汇总了IO延迟的信息。
**2. Innodb相关:**以innodb开头,汇总了innodb buffer信息和事务等待innodb锁的信息。
**3. I/O相关:**以io开头,汇总了等待I/O、I/O使用量情况。
**4. 内存使用情况:**以memory开头,从主机、线程、事件等角度展示内存的使用情况
**5. 连接与会话信息:**processlist和session相关视图,总结了会话相关信息。
**6. 表相关:**以schema_table开头的视图,展示了表的统计信息。
**7. 索引信息:**统计了索引的使用情况,包含冗余索引和未使用的索引情况。
**8. 语句相关:**以statement开头,包含执行全表扫描、使用临时表、排序等的语句信息。
**9. 用户相关:**以user开头的视图,统计了用户使用的文件I/O、执行语句统计信息。
**10. 等待事件相关信息:**以wait开头,展示等待事件的延迟情况。
2. Sys schema视图使用场景
索引情况
1 | #1. 查询冗余索引 |
表相关
1 | # 1. 查询表的访问量 |
语句相关
1 | #1. 监控SQL执行的频率 |
IO相关
1 | #1. 查看消耗磁盘IO的文件 |
Innodb 相关
1 | #1. 行锁阻塞情况 |





































































