Linux Rsyslog 設定指南:日誌篩選、imfile 收集與轉送
在 Linux 設定 Rsyslog,依 facility 與 severity 篩選日誌,用範本輸出 JSON、以 imfile 讀取檔案,並驗證 TCP 轉送與重試。
Linux 主機有把驗證事件寫進檔案,集中式日誌平台上卻查不到。可以先送一筆有識別字串的訊息,逐段追蹤它到了哪裡。Rsyslog 可能已經收到,只是選擇器把訊息分到另一個檔案,或者轉送端連不上接收器,訊息還留在佇列裡。
Rsyslog 依照規則處理輸入的日誌,再寫入檔案、轉送到另一台伺服器,或執行其他動作。 即使主機使用 systemd,Rsyslog 是讀 journal、監聽 syslog 通訊端,還是讀取應用程式日誌檔,都要看實際設定。先確認事件從哪裡進來,再查輸出規則。
一起看 facility 與嚴重程度
Facility 表示事件的來源類別。同一台主機的驗證、核心和郵件事件,可以用 authpriv、kern、mail 分開處理。應用程式也可以用 local0 到 local7 做自訂路由。Severity 表示事件的嚴重程度,數值越小越嚴重。
| 數值 | 嚴重程度 | 用途 |
|---|---|---|
| 0–2 | emerg、alert、crit |
緊急、需要立即處理、重大異常 |
| 3–4 | err、warning |
錯誤與警告 |
| 5–7 | notice、info、debug |
通知、資訊與除錯訊息 |
選擇器文件裡的 priority 指的是 severity。syslog 傳輸格式裡的 PRI 則是 facility × 8 + severity 的組合值。例如 local0.info 的 facility 是 16,severity 是 6,所以訊息開頭的 PRI 為 <134>。RFC 5424 的 PRI 定義
順著 rsyslog.conf 查路由規則
許多 Linux 發行版會由 /etc/rsyslog.conf 載入 /etc/rsyslog.d/ 下的設定片段。加規則前,先確認檔案載入的順序。以下是設定範例,檔案路徑與轉送目的地需要換成實際環境的值。
auth,authpriv.* /var/log/auth.log
*.err /var/log/errors.log
mail.* -/var/log/mail.log
kern.* @@log-center.example.com:514
*.err 涵蓋 err、crit、alert 和 emerg。只想留 err,用 *.=err。舊式檔案動作的路徑前若加 -,會停用該動作的同步寫入。轉送目的地前的 @@ 代表 TCP,單個 @ 代表 UDP。Rsyslog 選擇器 · 舊式動作語法
要再依程式名稱篩選,可以用 RainerScript 條件式。這條規則把 Nginx 的警告及更嚴重的事件寫到專用檔案,接著結束該筆訊息的處理。
if ($programname == "nginx" and $syslogseverity <= 4) then {
action(type="omfile" file="/var/log/nginx-error.log")
stop
}
程式名稱取自 syslog 標籤,先確認 Nginx 送來的訊息實際帶什麼標籤。如果同一筆日誌也要轉送,轉送動作要能在 stop 前執行。已經執行的動作不受影響。
用範本輸出一行一筆 JSON
範本定義動作的輸出格式。下面先依 JSON 字串的規則處理主機名稱和訊息,再在每個物件後寫入換行。timereported 是 Rsyslog 從訊息解析出的時間。
template(name="JsonFormat" type="list") {
constant(value="{\"time\":\"") property(name="timereported" dateFormat="rfc3339")
constant(value="\",\"host\":\"") property(name="hostname" format="json")
constant(value="\",\"msg\":\"") property(name="msg" format="json")
constant(value="\"}\n")
}
action(type="omfile" file="/var/log/app.json" template="JsonFormat")
若只要輸出某個應用程式的日誌,把檔案動作放進對應的篩選規則。接收端可能需要 syslog 標頭與指定的訊息分幀格式,因此可以為本機 JSON 檔和轉送分別選用範本。Rsyslog 範本 · 屬性輸出格式
用 imfile 讀取應用程式日誌
應用程式如果把純文字日誌逐行附加到檔案,imfile 可以把這些內容送進同一套 Rsyslog 規則。工作目錄要能跨重啟保留,且 Rsyslog 程序需要有寫入權限。主設定若已指定 workDirectory,沿用即可,視需要加入模組與輸入設定。
global(workDirectory="/var/spool/rsyslog")
module(load="imfile")
input(type="imfile"
File="/var/log/myapp/*.log"
Tag="myapp:"
Severity="info"
Facility="local0"
PersistStateInterval="100")
這個設定每處理 100 行就儲存一次讀取位置。程序異常結束時,上次儲存位置之後的內容可能會重讀。日誌輪替採用重新命名再建立新檔的方式時,運作中的 Rsyslog 能把舊檔剩餘內容讀完,再跟進新檔。停機期間發生輪替,舊檔裡尚未讀取的行可能會漏掉。萬用字元應排除已輪替檔案,也要在實際環境驗證複製後截斷等其他輪替方式。imfile 輸入模組
TCP 轉送遇到接收端中斷時怎麼辦
為轉送動作設定專用佇列,連不上接收器時可將訊息暫留在該佇列,與其他輸出分開。下面啟用磁碟輔助佇列,以 queue.maxDiskSpace 設定磁碟用量上限,並持續重試。主機名與連接埠是未加密 TCP syslog 監聽端的範例。
action(type="omfwd" Target="log-center" Port="514" Protocol="tcp"
queue.type="LinkedList" queue.filename="fwd" queue.saveOnShutdown="on"
queue.maxDiskSpace="1g"
action.resumeRetryCount="-1")
磁碟輔助佇列通常先用記憶體。queue.saveOnShutdown="on" 會在正常關閉時,把仍在記憶體佇列裡的訊息存到磁碟。程序被強制終止或佇列容量耗盡,仍可能遺失訊息。可根據預估中斷時間和期間的日誌流量設定容量。Rsyslog 佇列
UDP 可能遺失資料報,傳送端也不一定知道。TCP 可以重傳位元組、偵測連線失敗,但沒有單筆 syslog 訊息的接收確認。啟用 TLS 時,兩端需要對應的監聽端、連接埠和分幀方式,還要設定憑證信任與名稱驗證。如果兩端都支援 RELP,且需要應用層的接收確認,可以由 omrelp 傳送給 imrelp 等 RELP 接收器。接收確認涵蓋到哪個處理階段、資料是否已持久化,仍要另外查證。omfwd 轉送 · omrelp 轉送
在兩端確認同一筆訊息
先檢查整份設定,再傳一筆帶有唯一識別字串的訊息。確認轉送規則包含 local0.info,也要留意前面的 stop 是否已經結束處理。
sudo rsyslogd -N1
logger -t rsyslog-check -p local0.info "rsyslog-check-001"
如果平常在觀測雲做事件排查,可用 DataKit 接收現有的 syslog 資料流。啟用 Syslog 整合後,讓 Rsyslog 的傳輸協定和連接埠與監聽端一致。在日誌平台搜尋識別字串,檢查主機名稱、程式名稱、時間與嚴重程度是否解析正確。再讓接收端短暫離線,觀察恢復後哪些訊息到達。檔案輸入可以在輪替前後各寫一筆識別訊息,順手確認有沒有漏收或重複。DataKit Syslog 整合文件(簡體中文)
常見問題
Rsyslog 和 journald 有什麼差別?
systemd-journald 將紀錄存進結構化的 journal,可以用 journalctl 查詢。Rsyslog 和 syslog-ng 可以把訊息分流到檔案或其他系統。Rsyslog 是讀 journal 還是收 journald 轉送的訊息,取決於主機設定。journald 設定
為什麼 imfile 重啟後會重複收集?
先查工作目錄是否保留下來、Rsyslog 能否寫入,以及檔案規則是否也匹配輪替後的檔案。即使工作目錄有保留,異常重啟後也可能從最後儲存的位置重新讀取部分內容。
評估 Rsyslog 效能要量什麼?
用接近正式環境的訊息大小與路由規則測試,分別觀察接收端正常和中斷時的佇列深度,再量恢復後清掉積壓要多久。恢復後的處理速率高於新日誌流入速率,積壓才會下降。
延伸閱讀
- 日誌監控
- 用 Rsyslog 集中收集日誌(簡體中文)
- Filebeat 的運作方式(簡體中文)
- 用 journalctl 查詢 Linux 日誌(簡體中文)
