使用Mysql慢日志分析工具,跟踪sql,优化Mysql!
2018-04-16
后端
#################开启mysql慢查询日志##############################################
查看mysql配置：
进入muysql
/usr/local/mysql/bin/mysql -uroot -p
//查看当前慢查询设置
show variables like '%slow%';
//查看慢查询时间 (默认10s)
show variables like "long_query_time";
//查看慢查询的数量 [实际意义的慢查询比较困难,测试时候可以用 SELECT SLEEP(10);创建]
show global status like '%slow%';
mysql慢查询日志的配置：(注意：这些日文件在mysql重启的时候才会生成)
vim /etc/my.cnf
# 开启慢查询功能 (版本不同 on 或者 1 开启)
slow-query-log = on
#慢查询时间 秒单位
long_query_time=0.2
# 慢查询日志存放路径与名称
slow_query_log_file = /usr/local/mysql/data/slow-query.log
# 列出没有使用索引的查询语句
# log-queries-not-using-indexes = on
#记录所有sql语句
log=/usr/local/mysql/data/mysql.log
#记录数据库启动关闭信息，以及运行过程中产生的错误信息
log-error=/usr/local/mysql/data/myerror.log
# 记录除select语句之外的所有sql语句到日志中，可以用来恢复数据文件
log-bin=/usr/local/mysql/data/bin
#记录查询慢的sql语句
log-slow-queries=/usr/local/mysql/data/slow.log
##############MySQL慢查询分析及结果可视化pt-query-digest + Query-Digest-UI生成报表##################################
安装慢查询分析pt-query-digest工具
#安装pt-query-digest软件依赖插件
yum install -y perl-Time-HiRes
#上传pt-query-digest工具包到服务器
#tar zxvf percona-toolkit_2.2.15-2.tar.gz
#cd percona-toolkit-2.2.15
#perl Makefile.PL
#make
#make install
分析结果常用命令
1. pt-query-digest分析慢查询日志
pt-query-digest --report /home/mysql_data/wxzj-slow.log
报告最近半个小时的慢查询：
pt-query-digest --report --since 1800s /home/mysql_data/wxzj-slow.log
报告一个时间段的慢查询：
pt-query-digest --report --since '2013-02-10 21:48:59' --until '2013-02-16 02:33:50' /home/mysql_data/wxzj-slow.log
报告只含select语句的慢查询:
pt-query-digest --filter '$event->{fingerprint} =~ m/^select/i' /home/mysql_data/wxzj-slow.log
报告针对某个用户的慢查询:
pt-query-digest --filter '($event->{user} || "") =~ m/^root/i' /home/mysql_data/wxzj-slow.log
报告所有的全表扫描或full join的慢查询:
pt-query-digest --filter '(($event->{Full_scan} || "") eq "yes") || (($event->{Full_join} || "") eq "yes")' /home/mysql_data/wxzj-slow.log
分析结果: #/usr/local/bin/pt-query-digest /home/mysql_data/wxzj-slow.log
--分析mysql-slow.log这个慢查询日志文件
# A software update is available:
# * The current version for Percona::Toolkit is 2.2.9.
开始总的摘要信息
# 170ms user time, 10ms system time, 26.00M rss, 213.39M vsz
--此工具执行日志分析时的所用时间、内存资源(rss物理内存占用大小，vsz虚拟内存占用大小)
# Current date: Mon Jul 28 09:55:34 2014
--分析时的系统时间
# Hostname: lump.group.com
--进行分析的主机名，非记录日志的数据库服务器
# Files: mysql-slow.log
--分析的日志文件名称
# Overall: 5 total, 4 unique, 0.02 QPS, 0.04x concurrency ________________
--文件中总共的语句数量，唯一的语句数量(对语句进行了格式化)，QPS，并发数
# Time range: 2014-07-28 09:50:30 to 09:54:50
--记录日志的时间范围
# Attribute total min max avg 95% stddev median
--total总计，min最小，max最大，avg平均，95%把所有值从小到大排列，位于95%的那个数
# ============ ======= ======= ======= ======= ======= ======= =======
# Exec time 10s 1s 3s 2s 3s 753ms 1s
# Lock time 196us 0 79us 39us 76us 33us 42us
# Rows sent 1.40k 0 716 287 685.39 335.14 3.89
# Rows examine 15.32k 0 11.13k 3.06k 10.80k 4.02k 2.06k
# Rows affecte 0 0 0 0 0 0 0
# Bytes sent 72.42k 11 38.85k 14.48k 38.40k 17.57k 234.30
# Query size 807 6 342 161.40 329.68 146.53 112.70
查询分组统计结果
# Profile
# Rank Query ID Response time Calls R/Call V/M Item
# Rank Query ID 响应时间 查询次数 平均响应时间 响应时间 查询语句
# ==== ================== ============= ======= ====== ===== ===============
# 1 0x4A9CF4735A0490F2 3.1898 31.9% 1 3.1898 0.00 SELECT history_uint
# 2 0x2B0044BDE0960A2F 2.6991 27.0% 1 2.6991 0.00 SELECT history
# 3 0x813031B8BBC3B329 2.5755 25.7% 2 1.2877 0.00 COMMIT
# 4 0x469563A79E581DDB 1.5380 15.4% 1 1.5380 0.00 SELECT sessions
每个独立查询语句的分析
# Query 1: 0 QPS, 0x concurrency, ID 0x4A9CF4735A0490F2 at byte 591 ______
--QPS：每秒查询数(queries per second)
--concurrency：该查询的近似并发值
--ID：16进制，查询语句的指纹，去掉了多余空格、和文本字符、转换成小写，使用--filter可以用来进行过滤(如：pt-query-digest mysql-slow.201407250000 --filter '$event->{fingerprint} && make_checksum($event->{fingerprint}) eq "0793E2F7F5EBE1B1"' > slow2.txt)，必须移除0x
--at byte 289141：查询语句在日志文件中的偏移量(byte offset)，不一定精确，根据偏移量在日志文件中查找语句(如tail -c +289141 mysql-slow.201407250000 |head)
# This item is included in the report because it matches --limit.
# Scores: V/M = 0.00
# Time range: all events occurred at 2014-07-28 09:51:02
# Attribute pct total min max avg 95% stddev median
总计 最小 最大 平均 95%把所有值从小到大排列，位于95%的那个数
--95%：95th percentile，stddev：standard deviation
# ============ === ======= ======= ======= ======= ======= ======= =======
# Count 20 1
--pct在整个日志文件中，执行语句占用百分比(20%)，总计执行了1次
# Exec time 31 3s 3s 3s 3s 3s 0 3s 语句执行时间
# Lock time 40 79us 79us 79us 79us 79us 0 79us 锁占有时间
# Rows sent 49 715 715 715 715 715 0 715 发送到客户端的行数
# Rows examine 13 2.09k 2.09k 2.09k 2.09k 2.09k 0 2.09k 扫描的行数(SELECT语句)
# Rows affecte 0 0 0 0 0 0 0 0 发送改变的行数(UPDATE, DELETE, INSERT语句)
# Bytes sent 45 33.31k 33.31k 33.31k 33.31k 33.31k 0 33.31k 发送多少bytes的查询结果集
# Query size 42 342 342 342 342 342 0 342 查询语句的字符数
# String:
# Databases zabbix
--数据库名
# Hosts
# Last errno 0
# Users zabbix
--执行语句的用户名
# Query_time distribution
--查询的执行时间分布情况图，可以使用选项--report-histogram进行定义
# 1us
# 10us
# 100us
# 1ms
# 10ms
# 100ms
# 1s ################################################################
# 10s+
# Tables
# SHOW TABLE STATUS FROM `zabbix` LIKE 'history_uint'G
--可以使用该语句查询表的统计信息，如大小
# SHOW CREATE TABLE `zabbix`.`history_uint`G
--可以使用该语句查看表的结构信息
# EXPLAIN /*!50100 PARTITIONS*/
SELECT itemid,round(1401* MOD(CAST(clock AS UNSIGNED)+79742,86400)/(86400),0) AS i,COUNT(*) AS count,AVG(value) AS avg,MIN(value) AS min,MAX(value) AS max,MAX(clock) AS clock FROM history_uint WHERE itemid='30376' AND clock>='1406425858' AND clock<='1406512258' GROUP BY itemid,round(1401* MOD(CAST(clock AS UNSIGNED)+79742,86400)/(86400),0)G
--可以使用该语句查看查询计划，如非select语句，工具会转换成类似的select语句，方便进行explain
将分析日志写入数据库(需要新建数据库slow_query_log)
/usr/local/bin/pt-query-digest --user=用户名 --password=密码 --review h=127.0.0.1,D=slow_query_log,t=global_query_review --history h=127.0.0.1,D=slow_query_log,t=global_query_review_history --no-report --limit=0% --filter=" $event->{Bytes} = length($event->{arg}) and $event->{hostname}="$HOSTNAME"" /home/mysql_data/wxzj-slow.log
############Query-Digest-UI分析结果可视化####################################################
(1) 安装配置Query-Digest-UI
git clone https://github.com/kormoc/Query-Digest-UI.git
cd Query-Digest-UI
cp config.php.example config.php
vi config.php
$reviewhost = array(
'dsn' => 'mysql:host=192.168.1.190;port=3306;dbname=slow_query_log',
'user' => '用户名',
'password' => '密码',
'review_table' => 'global_query_review',
'history_table' => 'global_query_review_history',
);
(2)访问http://域名/Query-Digest-UI/index.php查看可视化结果
例如: http://域名/Query-Digest-UI/index.php