AI 에이전트 실패 진단을 위한 AgentRx 실행 궤적 기반 자동 로컬라이제이션

초록

AgentRx는 장기·확률적·다중 에이전트 실행 궤적에서 최초 복구 불가능한 실패 단계를 자동으로 찾아내는 프레임워크이다. 115개의 실패 사례를 수집·주석 달아 만든 벤치마크와 9가지 범주로 구성된 교차 도메인 실패 분류 체계를 제시하고, 도구 스키마·정책·관찰을 기반으로 제약을 합성·평가해 위반 로그를 생성한다. LLM 기반 판정기가 이 로그와 체크리스트를 활용해 핵심 실패 단계와 원인 카테고리를 추론한다. 실험 결과, 기존 방법 대비 실패 단계 탐지에서 23.6%·원인 분류에서 22.9% 절대 향상을 보였다.

상세 분석

AgentRx 논문은 현재 AI 에이전트가 복잡한 툴 호출과 장기 대화를 수행하면서 발생하는 “첫 번째 복구 불가능한 실패”(critical failure)를 자동으로 식별하는 문제에 초점을 맞춘다. 이를 위해 저자들은 세 가지 도메인(API 워크플로, 인시던트 관리, 웹·파일 작업)에서 총 115개의 실패 실행 궤적을 수집하고, 인간 annotator가 단계별로 실패를 표기한 뒤, 가장 마지막까지 복구되지 않은 최초 실패를 “critical failure”로 정의하였다.

주석 과정은 Grounded Theory 방식을 적용해 ‘오픈 코딩 → 범주 도출 → 포화’ 순으로 진행되었으며, 결과적으로 9개의 상위 카테고리(Plan Adherence, Invention of Information, Invalid Invocation 등)가 도출되었다. 이 분류는 도메인 간 일반성을 확보하면서도 구체적인 원인 설명을 제공한다는 점에서 기존 시스템‑레벨 오류 분류와 차별화된다.

프레임워크의 핵심 기술은 **제약 합성(constraint synthesis)**이다. 전역 제약(C_G)은 도구 스키마와 도메인 정책으로부터 한 번 생성되고, 동적 제약(C_D^k)은 각 단계 k에서 현재까지 관찰된 상태와 사용자 지시(I)를 바탕으로 새롭게 만들어진다. 제약은 ‘가드(guard)’와 ‘단언(assertion)’으로 구성되며, 가드가 활성화될 때만 단언을 평가한다. 평가 방식은 두 가지로 나뉜다. ① 구조적 필드에 대한 프로그램적 체크(스키마 일치, 값 범위 등) ② 자연어 기반 단언을 LLM이 판단하는 의미적 체크다.

평가 결과는 **검증 로그(V)**에 단계별 위반과 증거(evidence)를 기록한다. 이 로그는 시간 순서대로 정렬돼 인간이 직접 검토하기에도 용이하고, 자동 판정기에게도 입력으로 제공된다. 판정기는 사전 정의된 체크리스트(K)와 로그를 활용해 “첫 번째 위반이 전체 실패를 야기했는가”를 판단하고, 해당 단계와 가장 적합한 카테고리를 선택한다. 여기서 LLM은 단순 규칙 기반이 아니라, 로그와 문맥을 종합해 “위반이 실제로 치명적인가”를 판단하도록 설계돼, 과도한 위반을 무시하거나 복구 가능한 오류를 걸러낼 수 있다.

실험에서는 τ‑bench, Flash, Magentic‑One 세 도메인 모두에서 기존 베이스라인(단순 규칙, 순차적 로그 분석 등) 대비 **23.6%**의 절대적인 단계 탐지 개선과 **22.9%**의 카테고리 정확도 향상을 기록했다. 특히 다중 에이전트 환경인 Magentic‑One에서 복합적인 도구 호출과 상호작용이 얽힌 경우에도 높은 성능을 보였다.

한계점으로는 (1) 제약 생성에 사용되는 도메인 정책이 자연어 형태일 경우 LLM의 해석 오류가 전파될 수 있다. (2) 현재는 단일 LLM 판정기에 의존하고 있어, 판정기의 편향이나 오류가 결과에 직접 영향을 미친다. (3) 로그가 매우 길어질 경우 제약 평가 비용이 급증할 수 있다. 저자들은 이러한 문제를 해결하기 위해 정책을 형식화하고, 다중 판정기 앙상블 및 효율적인 제약 인덱싱 기법을 도입할 것을 제안한다.

전반적으로 AgentRx는 제약 기반 로그 분석 + LLM 판정이라는 새로운 패러다임을 제시하며, AI 에이전트의 디버깅 비용을 크게 낮출 수 있는 실용적인 솔루션으로 평가된다.