用ElasticSearch监控MySQL

介绍

本文是一个使用ELK来监控mysql的介绍,基本监控了一些关键指标,当然根据业务的不同,可能有不同的指标需求,但使用该方法监控,原理不会变化,非常适合入门。

ELK是一个非常强大的软件组合,在github上有开源,star数大的惊人,感兴趣的朋友可以了解下,这套工具学习曲线比较陡峭,推荐使用本文提到的mysqlbeat这类简单的工具作为采集工具开始,一开始先不使用官方提供的beat,一方面是因为默认的配置什么数据都上报,浪费存储空间,另一方面复杂的嵌套表结构(document)更增加了学习难度,更具体的原因后面还会提及。而本文涉及到的表结构(document)只有一层,说不定你输入一个key:value,例如INNODB_PAGE_SIZE:16384,就把pagesize为16KB的记录全部列出来了。但这并不意味着你不会掉到坑里去,学好这套工具还是需要大量的学习和摸索,其实ELK的难点在于ES,建议可以读一下它的原版教程ElasticSearch权威指南。

监控工具

mysqlbeat

mysqlbeat是一个高度可定制的mysql监控agent,通过查询information_schema.global_status中部分字段,并上报到ElasticSearch进行存储,并通过Kibana进行可视化展示。代码量少,建议阅读,github地址。

数据上报

安装后主要对/etc/mysqlbeat/mysqlbeat.yml文件进行配置(不同平台上路径可能有差异),有以下设置项:

mysqlbeat:配置mysql账号,上报间隔,查询语句等
output:ElasticSearch集群的地址(也可以输出到logstash),可以同时设多个,例如:hosts: ["192.168.1.1:9200", "192.168.1.2:9200"]
template:ElasticSearch mapping模板路径,默认为/etc/mysqlbeat/mysqlbeat.template.json,定义了文档字段(初学者可以理解为关系数据库的表结构),如果你偶尔要添加或修改字段,请设置overwrite: true字段,同时需要在Kibana界面reload一下该模板
配置中最重要的是queries字段,定义了一系列SQL语句,mysqlbeat通过执行这些语句,会生成一张表,这张表就是你要监控的数据,它只有两个字段VARIABLE_NAME和VARIABLE_VALUE,分别代表你要监控的监测名和监测值,其中value有两种类型

第一种是差值类型,因为global status中的一些数据是不断累加的,所以要得到1s内的数据,需要用当前时间取到的值减去前一个间隔取到的值,然后除以间隔的秒数,当然这些都不需要你来完成,你只需要在监测名后面加一个后缀__DELTA即可:CONCAT(VARIABLE_NAME, ‘__DELTA‘)
第二种是像内存值这样的不需要进行差值操作的类型。
总之使用很简单,看一下配置,然后马上就try吧

数据展示

使用这个工具导出的数据很容易配置可视化,我目前使用的是标配Kibana作为UI,下图是mysqlbeat可视化配置和官方beat可视化配置的一个对比

用ElasticSearch监控MySQL
对比

左图X轴是时间轴,Y轴是QPS的平均值,非常清晰明了。再看右图,我只展示了X轴,X轴是一个外部是时间轴,内部还嵌套了一个过滤器,这个效果却是对垂直空间做了划分,对于初学者来说非常不直观,可以想象当初我为了实现这个展示是花了很多时间去摸索的,即便如此,也不能否认ElasticSearch本身非常强大的事实。

监控指标

QPS和TPS

用ElasticSearch监控MySQL
QPS and TPS

qps是每秒的查询数,即information_schema.global_status中的QUESTIONS字段
tps是每秒的事务数,是information_schema.global_status中COM_ROLLBACK和COM_COMMIT之和连接
用ElasticSearch监控MySQL
连接

使用数据库的时候会出现"mysql connection error"的错误,一般有两个原因

连接数到达配置的最大值
内存或线程不足(每个连接对应一个线程)
所以需要设置如下几个监控

THREADS_CONNECTED:当前连接数,对照MAX_CONNECTIONS,如超过总连接的80%,或陡然突增的情况,需要设置报警
ABORTED_CONNECTS:表示存在服务器拒绝client连接的情况,此时下面两个指标中的一种或两种会增长
CONNECTION_ERRORS_MAX_CONNECTIONS:连接失败是因为当前连接超过最大连接数
CONNECTION_ERRORS_INTERNAL:主要用于排查连接失败是因为内存或线程不足造成的参数
缓存

用ElasticSearch监控MySQL
缓存

缓存在互联网时代的重要性不可估量,主流的两个数据库引擎InnoDB和MyISAM的缓存作用有所区别,前者的缓存包括了索引和实际数据,而MyISAM仅缓存了索引,它把数据缓存交给了操作系统,在这里我们的监控原理一样,只是字段有差别:

监控缓存使用率
监控缓存命中情况
缓存使用情况需要两个参数,缓存使用大小和缓存总大小

MyISAM:KEY_BLOCKED_USED / (KEY_BLOCKED_UNUSED + KEY_BLOCKED_USED)
InnoDB:INNODB_BUFFER_POOL_PAGES_DATA / (INNODB_BUFFER_POOL_PAGES_FREE + INNODB_BUFFER_POOL_PAGES_DATA)
同样,缓存命中情况也只需要缓存访问量和磁盘访问量两个参数,这一组字段不好记,记住读缓存次数的变量名比读磁盘次数的变量名多个requests后缀就好了。

MyISAM:读命中 KEY_READ_REQUESTS / (KEY_READS + KEY_READ_REQUESTS);写命中 KEY_WRITE_REQUESTS / (KEY_WRITE_REQUESTS + KEY_WRITES)
InnoDB:缓存命中 INNODB_BUFFER_POOL_READ_REQUESTS / (INNODB_BUFFER_POOL_READ_REQUESTS + INNODB_BUFFER_POOL_READS)
需要注意的是,缓存的读/写命中率应该以最近一段时间(比如10s)为基准(作者取的是累积值),这样数据更真实,而基数太大会把数据压得更平滑,不利于监测突发情况。

TODO

主从同步延迟,其实mysqlbeat已经实现了,只是老是出现类型冲突,所以就无法可视化,需要查代码定位
mysql错误,这种以表格的形式展示更好,对错误语句、原因根据错误次数倒序展示
最慢的mysql语句,同样是以表格形式展示
报警,使用ElastAlert的spike rule监控陡然增减的情况、frequency rule设置阈值,出现这些情况进行报警
latency,这种优先级比较低,一般上层接口的监控latency即可,因为一般情况下,mysql都是瓶颈。

原文地址:http://blog.51cto.com/13952953/2178986

时间: 2024-11-08 09:03:19

用ElasticSearch监控MySQL的相关文章

Centos6.5 zabbix3.2.6监控mysql

  一.     操作环境 我使用的linux系统是centos6.5,数据库是mysql5.6,apache2.4,php5,6 安装目录: /usr/local/apache /usr/local/php /usr/local/mysql /usr/local/zabbix Zabbix服务器插件安装 Zabbix3.2.6自带监控mysql模板监控项不全面,所以重新下载导入到zabbix里面 下载网址:. https://www.percona.com/downloads/percona-

LR如何利用siteScope监控MySQL性能

本次实验,是在自己的电脑上使用APMServ5.2.6部署Discuz2.X论坛下,对该论坛的数据库MySQL5.1进行性能测试的,下面讲述LoadRunner在设计场景时,如何利用siteScope工具监控MySQL数据库性能: 一.在网上下载siteScope 我在网上搜了很久,发现siteScope软件的下载资源很少,毕竟它是收费的,想找个破解版,不过还是有的,哈哈...但是版本旧了点siteScope7.9.5 下载地址:http://download.csdn.net/detail/y

zabbix用自带的模板监控mysql

先看一下zabbix自带的mysql模板监控项: #很少是吧,没事生产环境一般我们不用,下一篇将介绍生产环境用的另一种mysql监控. 配置zabbix自带的模板监控mysql数据库:

zabbix3.0 监控mysql服务免用户名密码登录的问题故障处理详细过程

1,My.cnf中用户名密码无效 在azure云上面,使用Zabbix监控mysql中,发现在/usr/local/mysql/my.cnf里面设置的默认用户名密码无效,出不来数据,而且在zabbix服务器上,使用zabbix_get也报错failed,如下 [[email protected]_serv_121_12 ~]#/usr/local/zabbix/bin/zabbix_get -s 192.168.13.13 -p10050 -kmysql.status[Uptime] /usr/

部署zabbix监控mysql (一) 安装zabbix

部署zabbix监控mysql (1)安装LAMP环境 [[email protected] ~]# yum -y installmysql-server http php (2)安装zabbix web所需要的依赖包 [[email protected] ~]# yum -y installmysql-dev gcc net-snmp-devel curl-devel perl-DBI php-gd php-mysql php-bcmathphp-mbstring php-xml 安装Fpin

Zabbix 中使用 Percona Monitoring Plugins 监控 MySQL

Zabbix 中使用 Percona Monitoring Plugins 监控 MySQL 1.安装zabbix agent [[email protected] ~]# rpm -ivh http://repo.zabbix.com/zabbix/3.2/rhel/7/x86_64/zabbix-agent-3.2.0-1.el7.x86_64.rpm [[email protected] ~]# yum install zabbix-agent 2.修改配置 [[email protect

zabbix监控MySQL(windows和linux环境)

一.linux环境下监控MySQL Zabbix Server自带了MySQL插件来监控mysql数据库的模板,只需要配置好agent客户端,然后在web端给主机增加模板就行了 监控项目: Com_update:     mysql执行的更新个数 Com_select:     mysql执行的查询个数 Com_insert:     mysql执行插入的个数 Com_delete:     执行删除的个数 Com_rollback:   执行回滚的操作个数 Bytes_received:  接

Zabbix3.0.4监控MySQL数据库状态

先在zabbix主机上面配置好MySQL服务器的信息,添加好zabbix自带的Template App MySQL模版,然后去mysql服务器上安装agent,再添加mysql监控脚本. 1.Zabbix官方提供的监控mysql的模板Template App MySQL,可以看到相关的Items和key. 打开监控项查看添加的mysql模板 2.zabbix_agent端结合官方提供的key编写Shell脚本,从数据库中取出Items的key的值 cat checkmysql.sh #!/bin

Zabbix监控mysql配置及故障告警配置

本文主要介绍zabbix监控mysql的配置,包含使用zabbix自带模板监控mysql相关信息及自定义key监控mysql同步情况.同时介绍了触发器的创建及zabbix通过邮件方式告警配置. 一.配置自带模板监控mysql 1.提供配置文件模板 文件位置在源码包/usr/local/src/zabbix-3.0.4/conf/zabbix_agentd/userparameter_mysql.conf #cp/usr/local/src/zabbix-3.0.4/conf/zabbix_age