DataKitでMySQLを可視化する:メトリクス、スロークエリログ、DBM

Guance DataKitでMySQLのインスタンスメトリクス、スロークエリログ、Performance Schemaのダイジェストを収集し、APMと照合する手順を解説します。

ベストプラクティス
メトリクス、ログ、クエリ分析を表すイラスト

注文 API の応答が遅いとき、接続数を見れば MySQL に負荷がかかっているかを調べられます。スロークエリログには時間のかかった一回の実行が残ります。ステートメントのダイジェストを見れば、同じ形式のクエリが何度も実行され、時間を消費していないかを確認できます。調査では、三つの情報の対象インスタンスと時間範囲をそろえます。

ここではセルフマネージドの MySQL 8.x を Guance DataKit に接続します。設定は公開ドキュメントに沿った例です。接続先や認証情報は環境に合わせて置き換えます。

三つの信号で分かること

信号 収集経路 調べられること
インスタンスのメトリクス MySQL のステータスと設定のクエリ 接続数、スループット、スロークエリ数、InnoDB の読み取り、設定済みのレプリケーション状態
スロークエリログ MySQL のログファイルと MySQL Pipeline ログの対象になった実行の所要時間、ロック待ち、調べた行数、SQL
DBM のステートメント情報 Performance Schema のダイジェスト、必要に応じてアクティビティと実行計画のサンプル 対象期間に時間を消費したクエリ形式、実行回数、行数

Guance APM(英語)で遅いリクエストを調べる場合は、データベースの span が記録されているかを先に確認します。その接続先、環境、時刻を使って MySQL 側を絞ります。通常の MySQL スロークエリログにはアプリケーションの trace_id が含まれないため、タグが同じだけでは個々のリクエストに対応付けられません。

収集専用のアカウントを用意する

例では、同じ Linux ホスト上の DataKit と MySQL を Unix ソケットでつなぎます。DataKit は対象ワークスペースにデータを送信できる状態にしておきます。リモートまたは Kubernetes では、到達できる DB アドレス、接続元を限定したアカウント、TLS と認証情報の保護が必要です。ファイルを収集する場合は、DataKit から読める場所に置きます。

データベース管理者がパスワードを置き換え、専用アカウントを作成します。以下の権限は、例の InnoDB、バイナリログまたはレプリケーションの状態、Performance Schema の参照に対応します。PROCESS を与えると見えるセッション情報が増えるため、付与範囲も確認します。

CREATE USER 'datakit'@'localhost' IDENTIFIED BY '<MONITOR_PASSWORD>';
GRANT PROCESS ON *.* TO 'datakit'@'localhost';
GRANT REPLICATION CLIENT ON *.* TO 'datakit'@'localhost';
GRANT SELECT ON performance_schema.* TO 'datakit'@'localhost';

この例では、追加の参照権限が必要なユーザーやスキーマの収集を除外しています。ユーザー統計、業務テーブルの構造、実行計画を加える場合は、機能ごとに権限を見直します。DBM には Performance Schema と必要な計測設定、ファイル収集には MySQL が実際に書き出すファイルが必要です。

三つの収集経路を設定する

1. インスタンスのメトリクスから始める

Linux の標準インストール先にあるサンプルから設定ファイルを用意します。同じインスタンスの設定がすでにある場合は、そのファイルを編集します。下の例では、ドキュメントにある二つのサンプル配置に対応し、既存の db/mysql.conf は上書きしません。

cd /usr/local/datakit/conf.d || exit 1
if [ ! -e db/mysql.conf ]; then
  sample=db/mysql.conf.sample
  [ -f "$sample" ] || sample=samples/mysql.conf.sample
  [ -f "$sample" ] || exit 1
  mkdir -p db && cp "$sample" db/mysql.conf
fi

実際のソケットパスと認証情報を指定します。レプリケーション状態を確認したいレプリカで replication を有効にします。MySQL 8.4 では SHOW SLAVE STATUS が削除されました。8.4 のレプリカでは、収集を始める前に、使用する DataKit が SHOW REPLICA STATUS を実行することを確認します。

[[inputs.mysql]]
  sock = "/var/lib/mysql/mysql.sock"
  user = "datakit"
  pass = "<MONITOR_PASSWORD>"
  interval = "10s"
  innodb = true
  replication = false
  dbm = false
  measurement_version = "v2"
  metric_exclude_list = ["mysql_schema", "mysql_table_schema", "mysql_user_status"]

  [inputs.mysql.object]
    enabled = true

    [inputs.mysql.object.collect_schemas]
      enabled = false

  [inputs.mysql.tags]
    database_instance = "orders-mysql-01"
    env = "prod"

インスタンスごとに一意で変わらない database_instance を付け、環境名はアプリケーションとそろえます。インストール方法に応じて DataKit を再起動し、収集エラーとワークスペースの mysql_metric を確認します。v2 は複数のメトリクス群をまとめます。古い構成では別々のメジャメントに入ることがあります。Questions の増分を経過秒数で割ると、毎秒のクライアントステートメント数を求められます。TPS を見る場合は、先にトランザクションの数え方を決めます。

2. スロークエリログを読み取って解析する

まずサーバーの設定を確認します。

SHOW GLOBAL VARIABLES
WHERE Variable_name IN ('slow_query_log', 'log_output', 'slow_query_log_file');

slow_query_log が ON で、log_output に FILE が含まれることを確認し、実際の slow_query_log_file を指定します。下のサブテーブルは同じ [[inputs.mysql]] ブロックに入れ、既存の同名設定を置き換えます。# Time: で始まる標準的なログでは、複数行をまとめて mysql.p で解析します。

[inputs.mysql.log]
  files = ["/var/log/mysql/slow.log"]
  multiline_match = "^# Time:"
  pipeline = "mysql.p"

実際のログを一件確認し、query_time(秒)、lock_time、rows_examined と db_slow_statement が取れているかを見ます。その後、対象インスタンスの二秒を超える実行を検索できます。形式が異なる場合は区切りと項目を検証します。SQL にはパラメーター値が含まれる場合があるため、取り込む前にマスキングとアクセス範囲を決めます。

3. DBM はステートメントの集計から始める

Performance Schema はダイジェストごとに集計します。SELECT * FROM orders WHERE id = 123 のように値だけが違うクエリを、同じ形式として調べられます。DataKit が読むのは events_statements_summary_by_digest です。Performance Schema が有効で、必要なステートメントの計測項目が有効かつ計時対象になっていることを確認します。ダイジェストの consumer を確認し、セッションや実行計画を収集する場合はステートメントと待機イベントの consumer も見直します。

SHOW GLOBAL VARIABLES LIKE 'performance_schema';
SELECT NAME, ENABLED
FROM performance_schema.setup_consumers
WHERE NAME IN (
  'statements_digest', 'events_statements_current',
  'events_statements_history', 'events_statements_history_long',
  'events_waits_current'
);

既存の [[inputs.mysql]] ブロックで dbm = true に変更し、以下の設定を反映して集計から始めます。アクティビティや実行計画を追加する前に DataKit の MySQL 設定(英語)で対応条件を確認します。実行計画には対象の EXPLAIN に必要な権限か、文書にある手順を審査したうえで作成したストアドプロシージャが必要です。SQL SECURITY DEFINER を使う場合は、定義者と EXECUTE の権限を確認します。

[inputs.mysql.dbm_metric]
  enabled = true
  interval = "10s"
  limit = 10000

[inputs.mysql.dbm_sample]
  enabled = false

[inputs.mysql.dbm_activity]
  enabled = false

初回の観測は基準値です。次回以降、同じウィンドウで delta_count_star が正なら、delta_timer_wait / delta_count_star で平均を計算できます。DataKit が報告する delta_timer_wait はナノ秒なので、平均もナノ秒です。Performance Schema の元の計時値はピコ秒、スロークエリログの query_time は秒です。この平均から P95 は出せません。インスタンス横断の調査では、normalized_query_hash で絞り、インスタンス、スキーマ、期間も指定します。取得済みの実行計画は query_signature から探せます。アクティビティや実行計画は採取時点と上限に左右されます。

データベースダッシュボードとアラートで確認する

Guance のデータベースエクスプローラー(英語)でインスタンスと収集データを確認し、接続、スループット、InnoDB、レプリケーションを同じ時間範囲にそろえます。以下の監視ルール(英語)のしきい値は例です。平常時の負荷とサービスの許容範囲に合わせて調整します。

信号 判定の例 確認する点
接続使用率 80% 超が継続 同じインスタンスの Threads_connected / max_connections と接続エラー
スロークエリ 単位時間の増加が平常範囲を超える Slow_queries の増分やレート。再起動によるリセットに注意
レプリカの遅延 30秒超が継続 Seconds_Behind_Source または旧項目 Seconds_Behind_Master とスレッド状態、エラー、NULL
可用性 接続失敗が継続 到達可能な場所から MySQL 接続を確認し、収集データの欠落は別に検知
バッファープールのヒット率 平常範囲を下回る 同じ期間の 1 - Δbuffer_pool_reads / Δbuffer_pool_read_requests。分母がゼロのときやリセット時は除外

遅いリクエストを調べるときは、データベース span の接続先と時刻を確認し、同じインスタンスの接続、待機、時間を消費したクエリ形式と照合します。span にプロキシしか出ない場合は、実際のバックエンドを先に特定します。両側で同時に遅くなっていれば手がかりになります。クエリのサンプルや変更履歴も確認して判断します。

よくある質問

収集によって MySQL にどれほど負荷がかかりますか?

ステータス照会、Performance Schema の計測、セッションや実行計画の採取、ファイル読み取りには負荷があります。必要なものから有効化し、DB と DataKit の負荷を観測して、間隔、件数上限、オプションを調整します。

RDS や PolarDB にも使えますか?

クラウドのメトリクス、スロークエリログ、DBM は収集経路が異なります。Alibaba Cloud RDS for MySQL(中国語・簡体字)と PolarDB for MySQL(中国語・簡体字)にはクラウド側の収集設定があります。ログのエクスポート方法とファイルアクセス、DBM で使えるネットワーク、Performance Schema、権限、収集項目をそれぞれ確認します。

過去のスロークエリログも取り込めますか?

読み取り位置はバージョン、オフセットキャッシュ、設定に依存します。過去のログを取り込む場合は、汎用ログコレクターの読み取り位置の仕様(英語)に沿って別のインポートを計画し、重複、イベント時刻、書き込み量、保存期間を確認します。汎用コレクターのオプションは、そのコレクターの設定に記述します。

関連記事。MySQL のメトリクスとアラート(英語) · MySQL スロークエリログの仕様(英語)

最適なプランを相談する

お問い合わせ

コミュニティに参加

WeChatでスキャンして
コミュニティに参加

Guanceを試す

オンラインですぐに始めて、使った分だけお支払いください。

利用を開始

Guanceのプランを選択

コードリポジトリ