Anemometer图形化显示MySQL慢日志的工具搭建及使用的实例解析

介绍:Anemometer 是一个图形化显示MySQL慢日志的工具。结合pt-query-digest,Anemometer可以很轻松的帮你去分析慢查询日志,让你很容易就能找到哪些SQL需要优化

让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:国际域名空间、网络空间、营销软件、网站建设、泰顺网站维护、网站推广。

This is the Box Anemometer, the MySQL Slow Query Monitor. This tool is used to analyze slow query logs collected from MySQL instances to identify problematic queries

环境概况

以写此文章时 percona-toolkit最新的版本3.0.10为例
mysql数据库对应版本为5.7.21,二进制安装
http和php均是系统CentOS Linux release 7.4.1708 (Core)自带版本

需要安装的步骤如下:

1.percona-toolkit工具的安装

2.php web环境的搭建安装

3.Anemometer并配置

4.导入慢查询日志

5.访问界面,查看慢查询

6.其他相关和问题解决

0. 整体的架构

1. percona-toolkit工具的安装

安装目的:pt-query-digest是percona-toolkit里面一个工具,其作用就是分析慢查询日志,将MySQL慢查询日志进行统计并友好的显示出来

下载地址:https://www.percona.com/downloads/percona-toolkit/

安装方式(rpm):

1、下载包,wget https://www.percona.com/downloads/percona-toolkit/3.0.10/binary/redhat/7/x86_64/percona-toolkit-3.0.10-1.el7.x86_64.rpm

2、安装依赖,yum install perl-DBI perl-DBD-MySQL perl-IO-Socket-SSL perl-Digest-MD5 -y

3、正式安装,rpm -ivh percona-toolkit-3.0.10-1.el7.x86_64.rpm

4、安装完毕验证,pt-query-digest --version pt-query-digest 3.0.10

安装方式(tar二进制)

1、下载包,wget https://www.percona.com/downloads/percona-toolkit/3.0.10/binary/tarball/percona-toolkit-3.0.10_x86_64.tar.gz

2、安装依赖,yum install perl-DBI perl-DBD-MySQL perl-IO-Socket-SSL perl-Digest-MD5 -y

3、解压包,tar xf percona-toolkit-3.0.10_x86_64.tar.gz

4、直接使用工具,./percona-toolkit-3.0.10/bin/pt-query-digest --version
pt-query-digest 3.0.10

2. php web环境的搭建

安装目的:Anemometer需要依赖
LAMP环境LAMP环境的安装:
1、安装apache,yum install httpd httpd-devel -y
2、安装php,yum install php php-mysql php-common php-bcmath php-dba php-cli php-gd php-mbstring php-mcrypt php-devel php-xml php-pdo -y
3、修改时区,vim /etc/php.ini,修改为date.timezone = PRC

LAMP环境的启动:
1、启动,systemctl start httpd
2、关闭,systemctl stop httpd
3、重启,systemctl restart httpd
4、查看,systemctl status httpd

3. 安装Anemometer并配置

1、下载安装:
安装目的:安装Anemometer应用
下载地址:https://github.com/box/Anemometer
下载包:git clone https://github.com/box/Anemometer.git
移动到对应路径:mv Anemometer /var/www/html/anemometer
2、目标慢查询数据库上需要授予Anemometer主机对应的权限
1、目的,用于分析目标慢查询数据库explain执行计划
2、授权,grant select on *.* to 'anemometer'@'$ip' identified by '123456';flush privileges;($ip为Anemometer主机对应ip地址)
3、修改配置文件增加explain读取用户密码信息cp conf/sample.config.inc.php conf/config.inc.php vim conf/config.inc.php\\\\

4、修改配置文件指向数据源文件,vim conf/datasource_localhost.inc.php,当然也可以直接vim conf/config.inc.php

5、初始化数据源的数据库表的配置,mysql -uroot -p123456 -h127.0.0.1 -P5700 < install.sql,每个datasource源头可以对应不同的数据库database(修改install.sql的内容)

4. 导入慢查询日志

1、慢查询主机推送格式

For pt-query-digest version < 2.2
$ pt-query-digest --user=anemometer --password=superSecurePass \\
--review h=db.example.com,D=slow_query_log,t=global_query_review \\
--review-history h=db.example.com,D=slow_query_log,t=global_query_review_history \\
--no-report --limit=0% \\ 
--filter=" \\$event->{Bytes} = length(\\$event->{arg}) and \\$event->{hostname}=\\"$HOSTNAME\\"" \\ 
/var/lib/mysql/db.example.com-slow.log

For pt-query-digest version >= 2.2
$ pt-query-digest --user=anemometer --password=superSecurePass \\
--review h=db.example.com,D=slow_query_log,t=global_query_review \\
--history h=db.example.com,D=slow_query_log,t=global_query_review_history \\
--no-report --limit=0% \\ 
--filter=" \\$event->{Bytes} = length(\\$event->{arg}) and \\$event->{hostname}=\\"$HOSTNAME\\"" \\ 
/var/lib/mysql/db.example.com-slow.log

2、慢查询主机推动脚本示例

#config anemometer server, the purpose is to push slow query to the remote anemometer server and store it.
anemometer_host="127.0.0.1"
anemometer_user="root"
anemometer_password="123456"
anemometer_port=5700
anemometer_db="slow_query_log"

#config mysql server, the purpose is to get the path of the slow query log.
mysql_client="/usr/local/mysql-5.7.21/bin/mysql"
mysql_user="root"
mysql_password="123456"
mysql_socket="/tmp/mysql_5700.sock"
mysql_port=5700

#config slowqury dir to cd, and then delete the expired slow query file.
slowquery_dir="/data/mysql_$mysql_port/"

#get the path of the slow query log.
slowquery_file=`$mysql_client -u$mysql_user -p$mysql_password -S $mysql_socket -e "show variables like 'slow_query_log_file'"|grep log|awk '{print $2}'`
pt_query_digest="/data/percona-toolkit-3.0.10/bin/pt-query-digest"

#collect mysql slowquery log into lepus database.
$pt_query_digest --user=$anemometer_user --password=$anemometer_password --port=$anemometer_port --review h=$anemometer_host,D=$anemometer_db,t=global_query_review --history h=$anemometer_host,D=$anemometer_db,t=global_query_review_history --no-report --limit=0% --filter=" \\$event->{Bytes} = length(\\$event->{arg}) and \\$event->{hostname}=\\"$HOSTNAME:$mysql_port\\"" $slowquery_file

#generate a new slow query log, the below is generate a new slow file per hour.
tmp_log=`$mysql_client -u$mysql_user -p$mysql_password -S $mysql_socket -e "select concat('$slowquery_dir','slowquery_',date_format(now(),'%Y%m%d%H'),'.log');"|grep log|sed -n -e '2p'`

#use new slow file to config mysql slowquery
$mysql_client -u$mysql_user -p$mysql_password -S $mysql_socket -e "set global slow_query_log = 0;set global slow_query_log_file = '$tmp_log';"
$mysql_client -u$mysql_user -p$mysql_password -S $mysql_socket -e "set global slow_query_log = 1; "

#delete slow query file before 2 days
cd $slowquery_dir
/usr/bin/find ./ -name 'slowquery_*.log' -mtime +2|xargs rm -rf ;

####END####

5. 访问界面,查看慢查询

http://$ip/anemometer/ ($ip为Anemometer主机对应ip地址)

6、其他相关和问题解决

1、对于anemometer的主机上,需要进行慢查询主机hostname和ip的映射(修改/etc/hosts进行配置),目的在于慢查询explain执行计划的目标主机解析
#collect mysql slowquery log into lepus database步骤中,$HOSTNAME:$mysql_port
数据库存取的格式,hostname_max类似这种,cnwangdawei:5700
2、中文乱码的问题,在#collect mysql slowquery log into lepus database步骤中添加 --charset=utf8
3、慢查询主机数据库是5.7版本的数据库,可能出现界面ts_cnt不显示,替换percona toolkit为新版本,2.x.x -----> 3.x.x
4、表结构和状态字符集显示乱码,添加mysqli的字符集设定,vim /var/www/html/anemometer/lib/QueryExplain.php
新增(194行后增加),$this->mysqli->query("set names utf8");


本文标题:Anemometer图形化显示MySQL慢日志的工具搭建及使用的实例解析
文章网址:http://ybzwz.com/article/cgsjpc.html