전화:400-882-3320
사용자 대화 중에 무슨 일이 일어나나요? 세션 및 추적 목록에서 빠르게 수렴하세요
뷰어는 애플리케이션, 위험 수준, 토큰 범위, 세션 ID, 트레이스 ID로 데이터를 필터링하는 것을 지원합니다. 팀은 먼저 총 세션, 고위험 수, 평균 추적 수, 토큰 소비, 위험 이벤트를 살펴본 후 특정 세션이나 개별 추적을 분석할 수 있습니다.
솔루션 개요
AI Agent 관찰성은 모델 인터페이스의 성공 여부뿐만 아니라, AI Agent 세션 내 프롬프트, 완료, 모델, 도구, 도구, 검색, 가드레일, 비즈니스 체인 간의 관계에도 초점을 맞춥니다. Guance 세션, 추적, 스팬, 토큰, 시간, 위험 이벤트를 하나의 관점에 모아 팀이 AI Agent의 모든 단계에서 무슨 일이 일어나는지 볼 수 있도록 돕습니다.
AI Agent는 AI Agent 보장 워크플로우를 관찰할 수 있습니다
OpenClaw와 같은 Agent/LLM 접근 프레임워크, 도구 활용 AI Agent 워크플로우, 기업용 맞춤형 AI Agent 애플리케이션 등 다중 턴 대화, 모델 호출, 도구 실행, 토큰 비용, 위험 이벤트에 대한 관찰 맥락을 구축합니다.
OpenClaw
헤르메스
Claude Code
Codex
기타 AI Agent장면 챌린지
AI Agent 실행 과정 블랙박스:하나의 답변은 여러 차례의 추론, 도구 호출, 검색, 가드레일을 거쳐 전통적인 링크가 모든 단계에서 일어나는 일을 설명하기 어렵게 만듭니다.
토큰 비용과 지연 시간은 통제하기 어렵습니다:모델, 컨텍스트 길이, 도구 재시도, 다중 호출 라운드 모두 비용과 응답 시간에 영향을 미치며, 세밀한 데이터가 없으면 최적화가 어렵습니다.
위험 사건을 찾기 어렵습니다:민감한 단어, 콘텐츠 중재, 도구 타임아웃, 예외 출력은 특정 세션, 트레이스, 스파와 함께 고려해야 합니다.
AI 애플리케이션과 비즈니스 시스템 간의 단절:AI Agent 통화는 비즈니스 프로세스의 일부일 뿐이며, 로그, 지표, 링크, 사용자 행동과 함께 분석되어야 합니다.
Guance 계획
세션 및 추적 추적:세션, 턴, 호출 링크별로 AI Agent 실행 프로세스를 재구성하며, 느린 단계, 오류의 단계, 고성능 단계를 빠르게 식별할 수 있습니다.
모델 및 도구 호출 분석:모델 요청, 도구 실행, 회수, 시간 소비, 상태 및 위험 수준을 통합적으로 관찰합니다.
토큰 및 성능 비용 모니터링:토큰 소비, 구간 수, 트레이스 시간, 모델 콜 비율을 지속적으로 분석하여 비용 최적화를 지원합니다.
위험 사건 연계 포지셔닝:민감한 단어, 가드레일, 콘텐츠 중재, 예외 상태를 특정 통화 맥락과 연계하세요.
해법의 주요 내용
성공과 실패만이 아니라 도구 실행, 위험 이벤트, 상태 변화도 중요합니다
통화 분석 뷰는 도구 실행 기록, 위험 이벤트, 규칙 히트, 상태 및 위험 수준을 하나의 패널로 통합합니다. 민감한 콘텐츠, 출력 이상 현상, 도구 타임아웃, 가드레일 히트를 접할 때, 팀은 관련 스팬 및 콜 컨텍스트를 직접 찾을 수 있습니다.
모델이 느리고, 도구가 느리며, 검색 속도가 느리나요? 워터폴 그래프를 사용해 통화 경로를 명확히 볼 수 있습니다
트레이스 세부 정보는 모델 요청, 도구 호출, 검색, 서식화 및 기타 스팬 프로세스의 시간과 순서를 워터폴 차트에서 보여줍니다. 다중 턴 추론, 툴체인 오케스트레이션, RAG 시나리오의 경우, 팀은 병목 현상이 어디인지 파악하고 입력, 출력, 속성 정보를 계속 검토할 수 있습니다.
Agent 또는 LLM 애플리케이션을 통합한 후에는 각 통화를 인증해야 합니다
Agent 모니터링 애플리케이션과 LLM 모니터링 애플리케이션을 통해 팀은 AI Agent 애플리케이션에 대한 애플리케이션 ID, 서비스 주소, 클라이언트 토큰을 생성할 수 있습니다. 애플리케이션이 생성되면 링크, 로그, 지표, 통화 데이터를 애플리케이션 차원별로 집계할 수 있어, 이후 문제 해결이 산만한 로그에만 의존하지 않습니다.
더 많은 콘텐츠
자주 묻는 질문
AI Agent 관찰성과 LLM 관찰성의 차이점은 무엇인가요?
LLM 관측성은 모델 호출, 프롬프트, 토큰, 응답 시간, 그리고 대형 모델의 응용 체인에 더 중점을 둡니다; AI Agent 관찰성은 AI Agent 세션, 다중 턴 추적, 도구 실행, 위험 이벤트, 호출 분석에 중점을 두며, 도구 오케스트레이션, 검색, 가드레일, 다단계 추론 등 AI 애플리케이션에 적합합니다.
AIAgent 관찰 가능한 주요 지표는 무엇일까요?
일반적인 지표로는 세션 수, 추적 수, 추적 시간, 스팬 수, 토큰 소비, 모델 호출 비율, 도구 실행 비율, 위험 이벤트 수, 위험 수준, 통화 상태 등이 있습니다. 팀은 이러한 지표를 활용해 경험, 안정성, 비용, 보안 위험을 평가할 수 있습니다.
AI Agent 관찰 가능한 것이 어떻게 AI Agent 응용과 연결될 수 있을까요?
팀은 Agent 모니터링 애플리케이션이나 LLM 모니터링 애플리케이션 Guance 생성하고, 애플리케이션 ID, 서비스 주소, 클라이언트 토큰을 얻으며, 접근 문서에 따라 구성을 완료할 수 있습니다. 데이터가 보고된 후, 뷰어는 세션, 추적, 토큰, 위험 수준, 애플리케이션 차원 AI Agent 프로세스를 분석하고 실행합니다.
AI Agent 관찰 가능한 팀이 어떤 팀에 적합한가요?
특히 이미 운영 중인 AI Agent, 고객 서비스 보조, 운영 Agent, RAG 애플리케이션, 도구 기반 AI 워크플로우 등 R&D, 알고리즘, AI 플랫폼, SRE 및 보안 거버넌스 팀에 적합합니다.
관련 글
LLM 관측성: 모델 호출, 토큰 비용, 추적 링크를 명확히 이해하기
모델 요청, 프롬프트, 응답 시간, 오류, 비용에서 시작하여 대규모 모델 응용을 위한 관찰 가능한 분석 진입점을 설정합니다.
AI Agent 관찰 가능한 접근 가이드: 애플리케이션 생성부터 호출 분석까지
Agent 모니터링 애플리케이션, LLM 모니터링 애플리케이션, 세션 리스트, 트레이스 리스트, 위험 이벤트 분석에 대해 배워보세요.
OWL CLI: Guance 진단 기능을 명령줄 및 AI Agent 워크플로우에 통합합니다
로그, 지표, 링크, 이벤트, RUM, 인프라 쿼리를 실행 가능하고 감사 가능한 진단 프로세스로 조직합니다.
MCP 서버 빠른 시작: Guance 컨텍스트를 AI 클라이언트에 통합하세요
AI IDE, 데스크톱 클라이언트, 자동화된 Agent을 모델 컨텍스트 프로토콜을 통해 연결하여 승인된 관측 데이터를 기반으로 추천을 할 수 있습니다.
