리눅스 Rsyslog 설정: 로그 필터, imfile 수집, TCP 전송

리눅스에서 Rsyslog로 로그를 분류하고 JSON으로 기록하는 방법을 알아봅니다. imfile 파일 수집, TCP 전송 대기열, 장애 후 재전송도 확인합니다.

모범 사례
로그와 옵저버빌리티 데이터 일러스트

리눅스 서버에는 인증 로그가 남는데 중앙 로그 저장소에서는 같은 이벤트를 찾을 수 없다. 이때는 고유한 표식을 넣은 메시지 하나를 보내 어디까지 도착하는지 따라가는 편이 빠르다. Rsyslog까지 들어온 로그도 선택자가 다른 파일로 보낼 수 있고, 수신기에 연결하지 못해 전송 대기열에 남을 수 있다.

Rsyslog는 입력으로 받은 로그를 규칙에 따라 분류하고 파일에 쓰거나 다른 서버로 전달한다. systemd를 쓰는 서버에서도 Rsyslog가 저널을 읽는지, syslog 소켓으로 받는지, 애플리케이션 로그 파일을 읽는지는 설정에 따라 다르다. 출력 규칙을 고치기 전에 어떤 입력으로 로그가 들어오는지 확인하자.

facility와 심각도 읽기

facility는 로그가 어느 종류의 소스에서 나왔는지 나타낸다. 같은 서버에서도 authpriv, kern, mail을 기준으로 인증, 커널, 메일 로그를 따로 다룰 수 있다. 애플리케이션에는 local0부터 local7까지를 자체 분류 기준으로 쓸 수 있다. 심각도(severity)는 메시지의 긴급성을 나타내며 숫자가 작을수록 더 심각하다.

번호 심각도 의미
0–2 emerg, alert, crit 비상 상황, 즉각 대응, 치명적 상태
3–4 err, warning 오류와 경고
5–7 notice, info, debug 알림, 정보, 디버그 메시지

선택자 문서에서 priority라고 부르는 값은 심각도다. syslog 전송 형식에서 PRI는 facility × 8 + severity로 계산한 값이다. 예를 들어 local0.info는 facility 16, 심각도 6이므로 <134>로 표시한다. RFC 5424의 PRI 정의

rsyslog.conf의 규칙 따라가기

리눅스에서는 보통 /etc/rsyslog.conf가 /etc/rsyslog.d/ 아래의 설정 파일을 불러온다. 규칙을 추가하기 전에 읽어들이는 순서를 확인하자. 다음은 설정 파일의 일부다. 경로와 전송 대상은 환경에 맞게 바꾼다.

auth,authpriv.*            /var/log/auth.log
*.err                      /var/log/errors.log
mail.*                     -/var/log/mail.log
kern.*                     @@log-center.example.com:514

*.err는 err, crit, alert, emerg를 모두 포함한다. err만 고르려면 *.=err를 쓴다. 구문이 오래된 파일 액션에서 경로 앞의 -는 해당 액션의 동기 쓰기를 끈다. 전송 대상 앞의 @@는 TCP, @ 하나는 UDP를 뜻한다. 필터 조건 · 레거시 액션

프로그램 이름까지 확인해야 한다면 RainerScript 조건문을 쓸 수 있다. 아래 규칙은 Nginx의 경고 이상 메시지를 전용 파일에 쓰고 해당 메시지의 처리를 끝낸다.

if ($programname == "nginx" and $syslogseverity <= 4) then {
  action(type="omfile" file="/var/log/nginx-error.log")
  stop
}

프로그램 이름은 syslog 태그에서 가져오므로 Nginx 로그가 어떤 태그로 들어오는지 확인하자. 같은 로그를 전송해야 한다면 전송 액션이 stop보다 앞에서 실행되게 한다. 먼저 실행한 액션에는 stop이 영향을 주지 않는다.

JSON을 한 줄에 하나씩 쓰기

템플릿은 액션이 어떤 형식으로 데이터를 출력할지 정한다. 아래 템플릿은 호스트 이름과 메시지를 JSON 문자열에 맞게 이스케이프하고 객체마다 줄바꿈을 넣는다. timereported는 Rsyslog가 메시지에서 해석한 시각이다.

template(name="JsonFormat" type="list") {
  constant(value="{\"time\":\"")      property(name="timereported" dateFormat="rfc3339")
  constant(value="\",\"host\":\"")    property(name="hostname" format="json")
  constant(value="\",\"msg\":\"")     property(name="msg" format="json")
  constant(value="\"}\n")
}
action(type="omfile" file="/var/log/app.json" template="JsonFormat")

특정 애플리케이션의 로그만 남기려면 그 애플리케이션을 고르는 조건 안에 파일 액션을 둔다. 수신기가 syslog 헤더나 특정 메시지 경계 형식을 요구할 수 있으므로, 로컬 JSON 파일용 템플릿과 전송용 템플릿은 각각 정한다. Rsyslog 템플릿 · 속성 출력 형식

imfile로 애플리케이션 로그 수집하기

애플리케이션이 텍스트 로그 파일에 내용을 추가한다면 imfile로 한 줄씩 읽어 기존 Rsyslog 규칙에 넣을 수 있다. 데몬이 쓸 수 있는 영구 작업 디렉터리를 사용한다. 기본 설정에 workDirectory가 이미 있다면 그대로 두고 필요한 모듈과 입력만 추가한다.

global(workDirectory="/var/spool/rsyslog")
module(load="imfile")
input(type="imfile"
      File="/var/log/myapp/*.log"
      Tag="myapp:"
      Severity="info"
      Facility="local0"
      PersistStateInterval="100")

이 예시는 100줄을 처리할 때마다 읽은 위치를 저장한다. 비정상 종료 후에는 마지막 저장 이후에 읽은 줄을 다시 처리할 수 있다. 파일 이름을 바꾸고 새 파일을 만드는 방식으로 로그를 로테이션하면, Rsyslog가 실행 중일 때 이전 파일의 남은 줄을 읽고 새 파일을 따라간다. 서비스가 중지된 사이에 파일이 바뀌면 이전 파일에서 아직 읽지 못한 줄을 놓칠 수 있다. 와일드카드에 로테이션된 파일이 걸리지 않게 하고, 복사 후 원본을 비우는 방식도 실제 환경에서 확인한다. imfile 입력 모듈

TCP 전송에 대기열 두기

전송 액션에 별도 대기열을 두면, 수신기에 연결할 수 없는 동안에도 다른 출력과 분리해 메시지를 기다리게 할 수 있다. 아래 예시는 디스크 보조 대기열의 사용 한도를 queue.maxDiskSpace로 설정하고 계속해서 재시도한다. 호스트와 포트는 암호화되지 않은 TCP syslog 리스너의 예다.

action(type="omfwd" Target="log-center" Port="514" Protocol="tcp"
       queue.type="LinkedList" queue.filename="fwd" queue.saveOnShutdown="on"
       queue.maxDiskSpace="1g"
       action.resumeRetryCount="-1")

디스크 보조 대기열은 보통 메모리부터 사용한다. queue.saveOnShutdown="on"은 정상 종료할 때 메모리에 남은 대기 메시지를 디스크에 저장하는 설정이다. 강제 종료되거나 용량을 다 쓰면 메시지가 유실될 수 있다. 예상 장애 시간과 그동안의 로그 유입량을 기준으로 용량을 잡는다. Rsyslog 대기열 동작

UDP는 데이터그램이 유실되어도 송신기가 알 수 없을 수 있다. TCP는 바이트를 재전송하고 연결 장애를 감지할 수 있지만, 개별 syslog 메시지가 수신됐다는 확인은 제공하지 않는다. TLS를 사용하려면 호환되는 리스너를 준비하고 포트, 메시지 경계 형식, 인증서 신뢰 및 이름 검증을 맞춘다. 양쪽 모두 RELP를 지원하고 애플리케이션 수준의 수신 확인이 필요하다면 omrelp로 보내고 imrelp 같은 RELP 수신기로 받는다. 수신 확인을 받았을 때 어디까지 영구 저장됐는지는 수신기에서 별도로 검증한다. omfwd 전송 · omrelp 전송

송신과 수신 결과 확인하기

설정을 다시 읽기 전에 구문을 검사하고 고유한 표식이 든 메시지를 보낸다. local0.info가 전송 규칙에 포함되는지, 앞에 있는 stop에서 처리가 끝나지 않는지 확인한다.

sudo rsyslogd -N1
logger -t rsyslog-check -p local0.info "rsyslog-check-001"

장애 조사에 Guance를 쓰고 있다면 DataKit으로 기존 syslog 스트림을 받을 수 있다. Syslog 연동을 켠 뒤 Rsyslog의 전송 설정을 리스너의 프로토콜과 포트에 맞춘다. 로그 저장소에서 표식을 찾아 호스트 이름, 프로그램 이름, 시각, 심각도가 제대로 파싱됐는지 확인한다. 수신기를 잠시 내렸다가 다시 올려 어떤 메시지가 도착하는지 살핀다. 파일 입력이라면 로테이션 전후에 각각 표식을 기록해 누락과 중복도 확인한다. DataKit Syslog 연동 문서(영어)

자주 묻는 질문

Rsyslog와 journald는 어떻게 다른가?

systemd-journald는 로그를 구조화된 저널에 저장하고, journalctl로 그 기록을 조회할 수 있다. Rsyslog와 syslog-ng는 파일이나 다른 시스템으로 로그를 분류해 보낼 수 있다. Rsyslog가 저널을 읽거나 journald의 전달을 받는지는 서버 설정에 달려 있다. journald 설정

재시작 후 imfile로 같은 로그를 또 읽는 이유는?

작업 디렉터리가 재시작 후에도 남아 있는지, 데몬에 쓰기 권한이 있는지, 파일 패턴이 로테이션된 로그까지 잡는지 확인한다. 작업 디렉터리가 유지되더라도 비정상 종료 후에는 마지막으로 저장한 위치부터 일부 줄을 다시 읽을 수 있다.

처리량을 확인하려면 무엇을 측정해야 하나?

실제와 비슷한 메시지 크기와 라우팅 규칙으로 테스트한다. 정상 상태와 수신기를 잠시 중단한 상태의 대기열 깊이를 비교한 뒤, 수신기가 복구되면 대기열이 비워지는 데 걸리는 시간을 잰다. 복구 후 처리량이 새 로그 유입량보다 높아야 밀린 로그가 줄어든다.

함께 읽기

맞춤형 플랜 상담

문의하기

커뮤니티 가입

WeChat으로 스캔하여
커뮤니티에 가입하세요

Guance 사용해 보기

온라인에서 바로 시작하고 사용한 만큼만 결제하세요.

시작하기

Guance 요금제 선택

코드 저장소