Linux の Rsyslog 設定ガイド:ログの振り分け、imfile、転送
Linux の Rsyslog でファシリティと重大度を指定し、JSON 出力や imfile によるファイル収集を設定。TCP 転送と再送の確認方法も解説します。
Linux サーバーでは認証ログがファイルに残っているのに、集約先では見つからない。そんなときは、識別子を付けたメッセージを一つ流し、どこまで届くかを追うと切り分けやすくなります。Rsyslog まで届いていても、セレクターに一致しなかったり、転送先に接続できずキューに残っていたりします。
Rsyslog は入力から受け取ったログをルールで振り分け、ファイルへの書き込みや別サーバーへの転送を行います。 systemd を使う環境でも、ジャーナルを読むのか、syslog ソケットで受けるのか、アプリのログファイルを読むのかは構成次第です。出力側を調べる前に、対象のログがどの入力に入るかを確認しましょう。
ファシリティと重大度の読み方
ファシリティ(facility)はログの発生元を分類します。同じホストから出たログでも、authpriv、kern、mail で認証、カーネル、メールを分けて扱えます。アプリ独自の振り分けには local0 から local7 を使えます。重大度(severity)はメッセージの深刻さを表し、数値が小さいほど重大です。
| 数値 | 重大度 | 内容 |
|---|---|---|
| 0–2 | emerg、alert、crit |
緊急、即時対応、致命的な状態 |
| 3–4 | err、warning |
エラー、警告 |
| 5–7 | notice、info、debug |
通知、情報、デバッグ |
セレクターの説明で priority と呼ばれるのは、この重大度です。一方、syslog のメッセージ先頭にある PRI は facility × 8 + severity で求めます。たとえば local0.info は 16 と 6 の組み合わせなので <134> になります。RFC 5424 の PRI 仕様
rsyslog.conf のルールを追う
Linux では /etc/rsyslog.conf から /etc/rsyslog.d/ 配下の設定を読み込む構成がよく使われます。ルールの追加前に、読み込み順を確認します。以下は設定ファイルの抜粋です。パスと転送先は環境に合わせて置き換えてください。
auth,authpriv.* /var/log/auth.log
*.err /var/log/errors.log
mail.* -/var/log/mail.log
kern.* @@log-center.example.com:514
*.err は err、crit、alert、emerg に一致し、*.=err は err だけに一致します。従来形式のファイルアクションでパスの前に付ける - は、そのアクションの同期書き込みを無効にします。転送先の @@ は TCP、@ 一つは UDP です。フィルターの仕様 · 従来形式のアクション
プログラム名でも絞り込むなら、RainerScript の条件式が便利です。次の例は Nginx の警告以上のログを専用ファイルに書き、そのメッセージの処理を終了します。
if ($programname == "nginx" and $syslogseverity <= 4) then {
action(type="omfile" file="/var/log/nginx-error.log")
stop
}
プログラム名は syslog タグから取得するため、Nginx のログが実際にどのタグで届くかを確認してください。同じログを転送する場合は、転送アクションが stop より前に実行される構成にします。先に実行されたアクションは stop の影響を受けません。
テンプレートで JSON を一行ずつ出力する
テンプレートはアクションが出力する形式を決めます。ここではホスト名とメッセージを JSON 文字列用にエスケープし、オブジェクトの末尾に改行を入れます。timereported は Rsyslog が解釈したメッセージ上の時刻です。
template(name="JsonFormat" type="list") {
constant(value="{\"time\":\"") property(name="timereported" dateFormat="rfc3339")
constant(value="\",\"host\":\"") property(name="hostname" format="json")
constant(value="\",\"msg\":\"") property(name="msg" format="json")
constant(value="\"}\n")
}
action(type="omfile" file="/var/log/app.json" template="JsonFormat")
特定のアプリのログだけを出力したい場合は、そのアプリを選ぶルールの中にファイルアクションを置きます。転送先で syslog ヘッダーや所定のフレーミングが必要な場合もあるため、ローカルの JSON 出力と転送のテンプレートは分けて考えます。テンプレートの仕様 · プロパティの出力形式
imfile でアプリのログファイルを読む
アプリがテキストファイルにログを追記する場合は、imfile で読み取り、ほかの入力と同じルールで処理できます。作業ディレクトリは永続化し、Rsyslog に書き込み権限を与えます。メインの設定に workDirectory があれば、その設定を使い、必要なモジュールと入力を追加します。
global(workDirectory="/var/spool/rsyslog")
module(load="imfile")
input(type="imfile"
File="/var/log/myapp/*.log"
Tag="myapp:"
Severity="info"
Facility="local0"
PersistStateInterval="100")
この設定では 100 行ごとに読み取り位置を保存します。異常終了した場合は、前回の保存以降に読んだ行を再処理することがあります。リネームして新規作成する方式では、Rsyslog が稼働中なら旧ファイルの残りを読み、新しいファイルへ移れます。停止中にローテーションすると、旧ファイルに未読の行が残る可能性があります。ローテーション済みファイルがワイルドカードに含まれないようにし、コピー後に切り詰める方式も含め、実際の手順で確認しましょう。imfile の仕様
TCP 転送にキューを付ける
アクション専用のキューを使うと、転送先につながらない間も、ほかの出力とは別にメッセージを待機させられます。この例ではディスク補助付きキューを使い、ディスク使用量の上限を queue.maxDiskSpace で設定し、接続を再試行し続けます。ホスト名とポートは暗号化なしの TCP syslog リスナーの例です。
action(type="omfwd" Target="log-center" Port="514" Protocol="tcp"
queue.type="LinkedList" queue.filename="fwd" queue.saveOnShutdown="on"
queue.maxDiskSpace="1g"
action.resumeRetryCount="-1")
ディスク補助付きのキューは通常、最初にメモリを使います。queue.saveOnShutdown="on" は正常終了時にメモリ上のキューをディスクに保存する設定です。強制終了や容量不足ではメッセージを失う可能性があるため、想定する停止時間と流入量に合わせて容量を見積もります。Rsyslog のキュー
UDP では欠落を送信側で把握できないことがあります。TCP はバイト列を再送し、接続障害を検出できますが、syslog メッセージ単位の受領確認はありません。TLS を使う場合は、対応するリスナーを用意し、ポート、フレーミング、信頼する証明書と名前の検証をそろえます。アプリケーション層で受領を確認したい場合は、両端が対応していれば omrelp と imrelp などを使えます。受領応答を永続化の証拠として扱う前に、受信側がどこまで保存するかを確認してください。omfwd の仕様 · omrelp の仕様
送信と受信を一件ずつ確認する
設定の読み込みを検証してから、識別子付きのテストログを送ります。local0.info が転送ルールの対象か、手前の stop で処理が終わらないかを確認します。
sudo rsyslogd -N1
logger -t rsyslog-check -p local0.info "rsyslog-check-001"
障害調査に Guance を使うなら、既存の syslog の受信先に DataKit を選べます。Syslog 連携を有効にし、リスナーのプロトコルとポートに Rsyslog 側を合わせます。集約先で識別子を検索し、ホスト名、プログラム名、時刻、重大度を確認してください。受信側を一時停止して復旧後の再送を調べ、ファイル入力を使う場合はローテーションの前後にも印を入れ、欠落や重複がないかを確かめます。DataKit の Syslog 連携(英語)
よくある疑問
Rsyslog と journald はどう違う?
systemd-journald は構造化されたジャーナルに記録を保存し、journalctl で検索できます。Rsyslog と syslog-ng はファイルや他のシステムにログを振り分けられます。Rsyslog がジャーナルを読むか、journald から転送を受けるかはホストの設定によります。journald の設定
再起動後に imfile で重複するのはなぜ?
作業ディレクトリが再起動後も残り、Rsyslog が書き込めるかを調べます。ファイルパターンがローテーション済みのログにも一致していないかを確認してください。異常終了後は、作業ディレクトリを永続化していても、最後に保存した位置から一部の行を再処理する場合があります。
負荷試験では何を見る?
実際に近いメッセージサイズとルールを使い、受信側が正常なときと停止したときのキュー量を測ります。復旧後に、流入が続いていてもキューが減っていくかを見れば、滞留を解消できる処理速度かどうかが分かります。
関連記事
- ログ監視
- Rsyslog でログを集約する(簡体字中国語)
- Filebeat の仕組み(簡体字中国語)
- journalctl で Linux のログを検索する(簡体字中国語)
