1. Percona监控和管理概述
Percona监控和管理(PMM)是一个用于管理和监控MySQL和MongoDB性能的开源平台。 它由Percona与托管数据库服务,支持和咨询领域的专家合作开发。 PMM是一个免费的开源解决方案,您可以在自己的环境中运行,以实现最大的安全性和可靠性。 它为mysql和mongodb服务器提供全面的基于时间的分析,以确保您的数据尽可能高效地工作。
1.1 Percona监控和管理架构
PMM平台基于简单的客户端 – 服务器模型,可实现高效的可扩展性。它包括以下模块:
PMM Client安装在您要监视的每个数据库主机上。它收集服务器指标,一般系统指标和查询分析数据,以获得完整的性能概述。收集的数据发送到PMM服务器。
PMM Server是PMM的核心部分,它聚合收集的数据,并以Web界面的表格,仪表板和图形的形式呈现。
PMM是旨在无缝协同工作的工具集合。一些是由Percona开发的,一些是第三方开源工具。
下图说明了PMM当前的结构:

1.2 PMM Client
PMM客户端软件包适用于大多数流行的Linux发行版:
– Red Hat Enterprise linux衍生产品的RPM(包括CentOS,Oracle Linux,Amazon Linux等)
– DEB用于基于Debian的发行版(包括Ubuntu等)
PMM客户端软件包包含以下内容:
pmm-admin是用于管理PMM客户端的命令行工具,例如,添加和删除要监视的数据库实例。
percona-qan-agent是一种在收集查询性能数据时管理查询分析(QAN)代理的服务。它还与PMM服务器中的QAN API连接,并发送收集的数据。
node_exporter是收集一般系统指标的Prometheus exporter。有关详细信息,请参阅https://github.com/prometheus/node_exporter。
mysqld_exporter是收集MySQL服务器指标的Prometheus exporter。有关详细信息,请参阅https://github.com/percona/mysqld_exporter。
mongodb_exporter是收集MongoDB服务器指标的Prometheus exporter。有关详细信息,请参阅https://github.com/percona/mongodb_exporter。
proxysql_exporter是收集ProxySQL性能指标的Prometheus exporter。有关详细信息,请参阅https://github.com/percona/proxysql_exporter。
1.3 PMM Server
PMM服务器将作为您的中央监控主机的机器运行。它通过以下方式作为设备分发:
可以用于运行容器的Docker映像
可以在VirtualBox或其他管理程序中运行
可以通过Amazon Web Services(AWS)运行的Amazon Machine Image(AMI)
PMM服务器由以下工具组成:
查询分析(QAN)使您能够在一段时间内分析MySQL查询性能。除客户端QAN代理外,还包括以下内容:
QAN API是用于存储和访问在PMM客户端上运行的percona-qan-agent收集的查询数据的后端
QAN Web App是用于可视化收集的Query Analytics数据的Web应用程序。
度量监视器(MM)提供对MySQL或MongoDB服务器实例至关重要的度量的历史视图。它包括以下内容:
Prometheus是一个第三方时间序列数据库,连接到在PMM客户端上运行的出口商,并汇总了收集的指标.
Consul提供一个PMM客户端可以远程列出,添加和删除Prometheus主机的API。
Grafana是一个第三方仪表板和图形构建器,用于在直观的Web界面中可视化由Prometheus汇总的数据.
Percona仪表板是由Percona开发的Grafana仪表板
Orchestrator是MySQL复制拓扑管理和可视化工具。
部署方案(https://www.percona.com/doc/percona-monitoring-and-management/architecture.html#id13)
参考:
[1]
https://prometheus.io/docs/introduction/overview/
[2] https://www.consul.io/docs/
[3] http://docs.grafana.org/
[4]
https://github.com/outbrain/orchestrator/wiki/Orchestrator-Manual
2. 安装MongoDB
2.1 配置Percona yum源
安装命令如下:
|
sudoyuminstall
http://www.percona.com/downloads/percona-release/redhat/0.1-4/percona-release-0.1-4.noarch.rpm
|
请确保有安装成功结果:
|
Installed:
percona-release.noarch0:0.1-4
Complete!
|
显示部分的安装包:
|
percona-release.noarch 0.1-4 installed
Percona-SQL-50-debuginfo.x86_64 5.0.92-b23.89.rhel6 percona-release-x86_64
Percona-SQL-client-50.x86_64 5.0.92-b23.89.rhel6 percona-release-x86_64
Percona-SQL-devel-50.x86_64 5.0.92-b23.89.rhel6 percona-release-x86_64
Percona-SQL-server-50.x86_64 5.0.92-b23.89.rhel6 percona-release-x86_64
Percona-SQL-shared-50.x86_64 5.0.92-b23.89.rhel6 percona-release-x86_64
Percona-SQL-shared-compat.x86_64 5.0.92-b23.89.rhel6 percona-release-x86_64
Percona-SQL-test-50.x86_64 5.0.92-b23.89.rhel6 percona-release-x86_64
Percona-Server-51-debuginfo.x86_64 5.1.73-rel14.12.624.rhel6 percona-release-x86_64
Percona-Server-55-debuginfo.x86_64 5.5.55-rel38.8.el6 percona-release-x86_64
Percona-Server-56-debuginfo.x86_64 5.6.36-rel82.0.el6 percona-release-x86_64
Percona-Server-57-debuginfo.x86_64 5.7.18-15.1.el6 percona-release-x86_64
Percona-Server-MongoDB.x86_64 3.0.15-1.10.el6 percona-release-x86_64
Percona-Server-MongoDB-32.x86_64 3.2.13-3.3.el6 percona-release-x86_64
3.2.13-3.3.el6 percona-release-x86_64
3.2.13-3.3.el6 percona-release-x86_64
3.2.13-3.3.el6 percona-release-x86_64
3.2.13-3.3.el6 percona-release-x86_64
3.2.13-3.3.el6 percona-release-x86_64
Percona-Server-MongoDB-34.x86_64 3.4.5-1.5.el6 percona-release-x86_64
|
这里我们安装MongoDB3.4版本
|
sudoyuminstall
Percona-Server-MongoDB-34
|
如果您已经启用SELinux,则需要做配置相关,这里不做详细说明。我是禁用SELinux状态。
MongoDB默认配置文件/etc/mongod.conf
,数据目录默认是/var/lib/mongodb/
。有需要,请自行修改配置文件。
查看MongoDB是否启动:
3. 部署Percona监控和管理
以下过程介绍如何正确部署PMM:
在主机上运行PMM Server,用于访问收集的数据,查看基于时间的图表,并执行性能分析。
以下安装的选项可用:
* 使用Docker运行PMM服务器
* 使用VirtualBox运行PMM服务器
* 使用Amazon Machine Image(AMI)运行PMM服务器
这里我们选择使用Docker运行PMM服务器。
使用docker运行PMM Server
PMM服务器的Docker映像公开托管在https://hub.docker.com/r/percona/pmm-server/。 如果要从docker映像运行PMM Server,则主机必须能够运行Docker 1.12.6或更高版本,并具有网络访问权限。 有关使用Docker的更多信息,请参阅Docker文档。
3.1 yum安装Docker
一般CentOS需要安装epel
源,我这里是aws ec2 linux,所以直接使用如下命令安装:
|
yuminstalldocker
service docker start
chkconfigdockeron
|
注意:
使用pmm-server映像时,请使用特定的版本标签,而不是最新的标签。目前的最新稳定版本是1.2.0。
3.2 创建一个PMM数据容器
要创建持久PMM数据的容器,请运行以下命令:
|
dockercreate\
-v/opt/prometheus/data\
-v/opt/consul-data\
-v/var/lib/mysql\
-v/var/lib/grafana\
--namepmm-data\
percona/pmm-server:1.2.0/bin/true
|
运行结果:
|
Unabletofindimage'percona/pmm-server:1.2.0'locally
1.2.0:Pullingfrom
percona/pmm-server
45a2e645736c:Pullcomplete
fe1f1770c826:Pullcomplete
4f1bdb417453:Pullcomplete
a2f3207fd166:Pullcomplete
2f8fffdaf5ef:Pullcomplete
46e8ca929fde:Pullcomplete
5c89a1a51b6b:Pullcomplete
fceac4be9a77:Pullcomplete
fb79d7de9adf:Pullcomplete
Digest:sha256:b9e200c9bc66bb2c31d75d57852474cf00a292d3ccb8301fdd55cc6e25738e3d
Status:Downloadednewer
image forpercona/pmm-server:1.2.0
a93b2e74a10afe3b47e127e7ef43072cff8e9b060c2a0e1cbdf7a0baae8dd712
|
注意:
这个容器不运行,它只是为了确保在升级到更新的PMM – server映像时保留所有PMM数据。不要删除或重新创建这个容器,除非您打算删除所有PMM数据并从头开始。
前面的命令解释:
docker create
命令表示docker守护进程从镜像中创建容器。
- v
选项对volumes
进行指定初始化 。
--name
选项为容器指定一个自定义名称,用于在Docker网络中引用容器。例如名字:pmm-server
。
percona/pmm-server:1.2.0
是自源的镜像的名字和版本标识。
/bin/true
容器进行运行的命令。
3.3 创建并运行PMM服务器容器
要运行PMM服务器,请使用以下命令:
|
dockerrun-d\
-p80:80\
--volumes-frompmm-data\
--namepmm-server\
--restartalways\
percona/pmm-server:1.2.0
|
|
e8e133c3af3669257debdbce89bd36080510b2b2be30b0595cf295eb891f7d42
|
前面的命令解释:
docker run
命令运行一个docker守护进程以运行容器。
- d
选项以分离模式(即在后台)启动容器。
- p
选项用于映射访问PMM服务器web UI的端口。如果端口80不可用,您可以使用- p 8080:80
将登录页面映射到端口8080。
--volumes-from
表示挂载容器来自前面步骤指定的pmm-data
。
--name
选项为容器指定一个自定义名称,用于在Docker网络中引用容器。例如名字:pmm-server
。
--restart
选项定义容器的重新启动策略。设置它始终确保Docker守护进程在启动时启动容器,如果容器退出,则重新启动它。
percona/pmm-server:1.2.0
是自源的镜像的名字和版本标识。
使用如下命令确认PMM 安装运行是否正确:
通过使用运行容器的主机的IP地址连接到PMM Web界面来验证PMM服务器是否正在运行,然后在要监视的所有数据库主机上安装PMM Client
Component URL
PMM landing page http://172.31.27.176:80
Query Analytics (QAN web app) http://172.31.27.176/qan/
Metrics Monitor (Grafana) http://172.31.27.176/graph/User name: admin Password: admin
Orchestrator http://172.31.27.176/orchestrator
3.4 安装PMM客户端
PMM客户端是安装在您要监视的MySQL或MongoDB主机的客户端和数据提供采集方。 组件收集关于一般系统和数据库性能的各种数据,并将该数据发送到相应的PMM服务器组件。
注意:
不应该在具有相同主机名的数据库服务器上安装代理,因为PMM服务器使用主机名来标识收集的数据。
安装PMM客户端
安装pmm-client软件包
|
sudoyuminstall
pmm-client-y
|
将PMM客户端连接到PMM服务器
使用pmm-admin config --help
,查看帮助
pmm-admin config --server 172.31.27.176:80
|
OK,PMMserver
isalive.
PMMServer |172.31.27.176:80
Client Name |ip-172-31-27-176
ClientAddress |172.17.0.1
|
3.5 pmm server与pmm client通信
从以下操作也可以看出,pmm并不支持代理,是C/S构架。
pmm-admin check-network
检查结果:
|
PMMNetworkStatus
ServerAddress|172.31.27.176:80
ient Address|172.17.0.1
* SystemTime
NTPServer(0.pool.ntp.org) |2017-07-1707:55:57+0000UTC
PMM Server |2017-07-1707:55:57+0000GMT
PMMClient |2017-07-1707:55:57+0000UTC
PMM Server TimeDrift |
OK
PMMClientTime
Drift |OK
PMM Client toPMMServer
TimeDrift|OK
* Connection:Client-->Server
---------------------------
SERVER SERVICE
STATUS
---------------------------
Consul API
OK
PrometheusAPI OK
Query Analytics API OK
Connection duration|75.404µs
Requestduration |625.358µs
Full round trip |700.762µs
*Connection:Client<--Server
----------------------------------------------------------------------------
SERVICETYPE NAME REMOTEENDPOINT STATUS HTTPS/TLS PASSWORD
----------------------------------------------------------------------------
linux:metrics ip-172-31-27-176 172.17.0.1:42000 DOWN YES -
mongodb:metrics ip-172-31-27-176 172.17.0.1:42003 DOWN YES -
When an endpointisdownit
mayindicatethat
thecorrespondingservice
isstopped(run'pmm-admin
list'to
verify).
Ifit's running, check out the logs /var/log/pmm-*.log
When all endpoints are down but 'pmm-adminlist'showsthey
areupandnoerrors
inthelogs,
check the firewallsettingswhether
thissystemallows
incomingconnections
from servertoaddress:portinquestion.
Also you cancheckthe
endpointstatusby
theURL:http://172.31.27.176:80/prometheus/targets
|
防火墙开启与docker容器通信:
|
iptables-AINPUT-s172.0.0.1/8-jACCEPT
service iptables save
|
pmm-admin check-network
再次查看结果,则通信正常。
|
PMMNetworkStatus
ServerAddress|172.31.27.176:80
Client Address|172.17.0.1
* SystemTime
NTPServer(0.pool.ntp.org) |2017-07-1707:56:40+0000UTC
PMM Server |2017-07-1707:56:40+0000GMT
PMMClient |2017-07-1707:56:40+0000UTC
PMM Server TimeDrift |
OK
PMMClientTime
Drift |OK
PMM Client toPMMServer
TimeDrift|OK
* Connection:Client-->Server
---------------------------
SERVER SERVICE
STATUS
---------------------------
Consul API
OK
PrometheusAPI OK
Query Analytics API OK
Connection duration|67.174µs
Requestduration |595.339µs
Full round trip |662.513µs
*Connection:Client<--Server
----------------------------------------------------------------------------
SERVICETYPE NAME REMOTEENDPOINT STATUS HTTPS/TLS PASSWORD
----------------------------------------------------------------------------
linux:metrics ip-172-31-27-176 172.17.0.1:42000 OK YES -
mongodb:metrics ip-172-31-27-176 172.17.0.1:42003 OK YES -
|
3.6 pmm client添加监控项
|
pmm-adminaddlinux:metrics #
监控linux系统
pmm-adminaddmongodb:metrics #
监控mongodb
pmm-adminaddmongodb:queries--dev-enable #
此处为实验功能,所以需要加 --dev-enable
pmm-adminpurgelinux:metrics #
清除数据
pmm-adminpurgemongodb:metrics
|
管理PMM客户端的一些命令说明:
|
# 添加监控服务
pmm-adminadd
# 检查PMM客户端和PMM服务器之间的网络连接。
pmm-admincheck-network
# 配置PMM Client如何与PMM服务器通信。
pmm-adminconfig
# 打印任何命令和退出的帮助
pmm-adminhelp
# 打印有关PMM客户端的信息
pmm-admininfo
# 列出此PMM客户端添加的所有监控服务
pmm-adminlist
# 检查PMM服务器是否存活
pmm-adminping
# 在PMM服务器上清除度量数据。
pmm-adminpurge
# 清除监控服务
pmm-adminremove
# 修复安装
pmm-adminrepair
# 重启pmm客户端
pmm-adminrestart
# 打印PMM Client使用的密码
pmm-adminshow-passwords
# 开启监控服务
pmm-adminstart
# 停止监控服务
pmm-adminstop
# 在卸载之前清理PMM Client
pmm-adminuninstall
|
3.7 一些效果图


