8.3 修改mysqld_exporter源码，改造成类似blackbox的探针型，实现一对多探测

news2024/9/26 5:25:00

本节重点介绍 :

官方的mysqld_exporter问题
- 只能一对一
- 不能像探针一样采集多个实例
- dsn需要配置环境变量或者配置文件解析
需求说明改造成类似blackbox的探针型，实现一对多探测
改造方案
- 修改源码
- prometheus配置文件传参和实例地址获取
- 改造grafana大盘配置成可以切换instance变量

问题描述

官方的mysqld_exporter问题

只能一个mysqld_exporter对应一个mysqld实例
mysql 连接串dsn需要通过如配置文件或者 DATA_SOURCE_NAME 环境变量注入，下面展示之前讲过的环境变量方法

cat <<EOF >mysqld_exporter.service
[Unit]
Description=mysqld_exporter Exporter
Wants=network-online.target
After=network-online.target

[Service]
Environment=DATA_SOURCE_NAME=exporter:123123@tcp/
ExecStart=/opt/app/mysqld_exporter/mysqld_exporter
StandardOutput=syslog
StandardError=syslog
SyslogIdentifier=mysqld_exporter
[Install]
WantedBy=default.target
EOF

如果没有dsn配置，那么启动服务的时候会直接报错退出

INFO[0000] Starting mysqld_exporter (version=0.12.1, branch=HEAD, revision=48667bf7c3b438b5e93b259f3d17b70a7c9aff96)  source="mysqld_exporter.go:257"
INFO[0000] Build context (go=go1.12.7, user=root@0b3e56a7bc0a, date=20190729-12:35:58)  source="mysqld_exporter.go:258"
FATA[0000] failed reading ini file: open /root/.my.cnf: no such file or directory  source="mysqld_exporter.go:264"

为何官方要求设计成一对一的模型

主要是云原生环境下，一对一可以以sidecar模式部署
但是mysqld一般不运行在k8s中

改造代码解决方案

需求说明

改造mysqld_exporter 使之可以http传参dsn，变成一个blackbox_exporter形式的探针

http://172.20.70.205:9105/probe?dsn=root:123123@tcp(172.20.70.205:3306)/

这样一个mysqld_exporter 探针可以探测多个mysql实例
通过relabel正则解析dsn，获取instance标签

代码改造方案

首先注释掉代码中dsn的检查限制

代码位置 D:\go_path\pkg\mod\github.com\prometheus\mysqld_exporter@v0.12.1\mysqld_exporter.go

	dsn = os.Getenv("DATA_SOURCE_NAME")
	if len(dsn) == 0 {
		var err error
		if dsn, err = parseMycnf(*configMycnf); err != nil {
			log.Fatal(err)
		}
	}

添加一个/probe 处理的handler方法

代码位置 D:\go_path\pkg\mod\github.com\prometheus\mysqld_exporter@v0.12.1\mysqld_exporter.go

	http.HandleFunc("/probe", func(w http.ResponseWriter, r *http.Request) {

		collector.ProbeHandler(w, r, collector.NewMetrics(), enabledScrapers, logger)

	})

这个函数的作用是，处理http请求 /probe path

collect中添加一个 probe 处理函数

代码位置 D:\go_path\src\github.com\ning1875\mysqld_exporter\collector\exporter.go

func ProbeHandler(w http.ResponseWriter, r *http.Request, metrics Metrics, scrapers []Scraper, logger log.Logger) {
	dsn := r.URL.Query().Get("dsn")
	if dsn == "" {
		http.Error(w, fmt.Sprintf("dsn empty %q", dsn), http.StatusBadRequest)
		return
	}
	mysqlExp := New(r.Context(), dsn, metrics, scrapers, logger)
	registry := prometheus.NewRegistry()
	registry.MustRegister(mysqlExp)
	h := promhttp.HandlerFor(registry, promhttp.HandlerOpts{})
	h.ServeHTTP(w, r)
}

流程解释，先解析 dsn参数
根据dsn参数创建一个 mysqlExporter对象
mysqlExporter对象中实现了 prometheus sdk中的Collector接口

func (e *Exporter) Describe(ch chan<- *prometheus.Desc) {
	ch <- e.metrics.TotalScrapes.Desc()
	ch <- e.metrics.Error.Desc()
	e.metrics.ScrapeErrors.Describe(ch)
	ch <- e.metrics.MySQLUp.Desc()
}

// Collect implements prometheus.Collector.
func (e *Exporter) Collect(ch chan<- prometheus.Metric) {
	e.scrape(e.ctx, ch)

	ch <- e.metrics.TotalScrapes
	ch <- e.metrics.Error
	e.metrics.ScrapeErrors.Collect(ch)
	ch <- e.metrics.MySQLUp
}

然后将这个 mysqlExp注册到prometheus的registry中
然后用 promhttp.HandlerFor处理即可

打包代码然后编译运行

编译

go build -v -o mysqld_exporter mysqld_exporter.go

或者直接下载二进制

# 下载二进制
wget https://github.com/ning1875/mysqld_exporter/releases/download/v0.12.1/mysqld_exporter-0.12.1.linux-amd64.tar.gz

运行

./mysqld_exporter

浏览器访问或者curl测试如下

curl 'http://localhost:9104/probe?dsn=root:123123@tcp(localhost:3306)/'

dsn还是常规的dsn : user=root ,pass=123123 ,host=localhost ,port=3306
如果能显示metrics接口证明ok
举例图片

prometheus配置文件传参和实例地址获取

配置文件实例如下
通过replace正则替换获取 dsn中的mysql实例地址，即 ip+端口

  - job_name: 'mysql_exporter'
    metrics_path: /probe
    static_configs:
      - targets:
        - user1:pass1@tcp(mysql1:port1)/
        - user2:pass2@tcp(mysql2:port2)/

    relabel_configs:
      - source_labels: [__address__]
        target_label: __param_dsn
      - source_labels: [__param_dsn]
        target_label: instance
        regex: .*tcp\((.*?)\).*
        replacement: $1
        action: replace

      - target_label: __address__
        replacement: localhost:9104 # 修改后的mysqld_exporter地址