스키마 기반 툴 API가 LLM 에이전트 신뢰성에 미치는 영향: 오용 감소와 회복 행동의 실험적 고찰

초록

본 논문은 자유형 문서, JSON Schema, 그리고 구조화된 검증 진단 세 가지 인터페이스 조건을 동일한 툴 계약에 적용해, 제한된 스텝 예산 하에서 LLM 에이전트의 툴 오용, 실행 실패, 의미적 오용 및 회복 확률을 정량적으로 평가한다. 결과는 스키마 사용이 인터페이스 오용을 현저히 줄이지만, 의미적 오용과 최종 성공률에는 큰 영향을 주지 못함을 보여준다.

상세 분석

이 연구는 툴 인터페이스 설계 자체를 독립 변수로 삼아, 모델, 프롬프트, 환경 등을 완전히 통제한 뒤 세 가지 조건을 비교한다. 조건 A는 자연어 기반 자유형 문서, 조건 B는 엄격한 JSON Schema, 조건 C는 JSON Schema에 구조화된 검증 오류 메시지를 추가한 형태다. 모든 조건은 동일한 “canonical contract”에서 파생되었으며, 정보량 차이를 없애기 위해 문서와 스키마가 1:1 매핑되도록 설계했다.

실험은 로컬 오픈‑소스 모델 하나와 세 개의 랜덤 시드, 네 단계 예산(3, 5, 8, 12)으로 수행되었다. 평가 지표는 (1) 최종 성공률 S, (2) 인터페이스 오용 비율 I, (3) 실행 실패 비율 E, (4) 회복 확률 R, (5) 의미적 오용 비율 M, (6) 토큰 오버헤드 O 등이다.

핵심 결과는 다음과 같다. 첫째, 스키마를 도입한 조건 B와 C는 인터페이스 오용 I를 약 40 %~60 % 수준으로 크게 감소시켰다. 이는 모델이 구조화된 입력 검증을 인식하고, 잘못된 필드나 타입을 피하려는 경향이 강화된 것으로 해석된다. 둘째, 구조화된 진단을 제공하는 조건 C는 회복 확률 R을 약간 상승시켰지만, 상승 폭은 통계적으로 유의미하지 않았다. 즉, 오류 메시지가 구체적일수록 모델이 빠르게 수정 시도를 할 가능성은 있지만, 실제 성공으로 이어지는 경우는 드물었다. 셋째, 의미적 오용 M은 모든 조건에서 거의 동일하게 높은 수준을 유지했으며, 이는 스키마가 올바른 툴 선택·전략 수립을 보장하지 못한다는 점을 보여준다. 마지막으로, 예산이 가장 타이트한 B = 3, 5 상황에서도 전체 성공률 S는 0 %에 머물렀다. 즉, 인터페이스 오용을 줄여도, 툴 호출 자체의 의미적 적합성이나 실행 타임아웃 등 다른 병목이 지배적이라는 결론에 이른다.

이러한 결과는 두 가지 시사점을 제공한다. 첫째, 스키마 기반 계약은 소프트웨어 엔지니어링 관점에서 LLM 에이전트의 “컴파일러” 역할을 수행해 기본적인 형식 오류를 방지한다는 점에서 비용 효율적인 신뢰성 강화 수단이다. 둘째, 실제 업무 흐름에서 요구되는 복합적인 추론·계획 능력은 별도의 메타‑프롬프트 설계, 체인‑오브‑툴 전략, 혹은 외부 플래너와의 연동이 필요함을 암시한다. 따라서 향후 연구는 인터페이스 형식화와 의미적 플래닝을 동시에 다루는 하이브리드 프레임워크를 탐색해야 할 것이다.