LLM 에이전트 도구 활용의 진화: 단일 호출에서 다중 도구 오케스트레이션까지

초록

본 논문은 대형 언어 모델(LLM)이 단일 도구 호출을 넘어 장기적인 다중 도구 오케스트레이션을 수행하도록 하는 최신 연구 동향을 체계적으로 정리한다. 도구 사용을 추상화한 문제 정의, 추론 시 계획·실행, 학습·데이터 구축, 안전·제어, 효율성, 환경 적응성, 벤치마크 설계 등 여섯 가지 핵심 차원으로 문헌을 분류하고, 각 차원별 대표적 방법과 한계를 분석한다. 또한 소프트웨어 엔지니어링, 기업 워크플로, GUI, 모바일 시스템 등 실제 응용 사례를 제시하며, 향후 신뢰성·확장성·검증 가능성을 갖춘 다중 도구 에이전트 구축을 위한 연구 로드맵을 제안한다.

상세 분석

논문은 먼저 “단일 호출(tool‑call)”과 “다중 도구 오케스트레이션(multi‑tool orchestration)”을 명확히 구분한다. 단일 호출은 질문 → 도구 선택 → 호출 → 응답 → 최종 답변이라는 1‑step 흐름에 초점을 맞추며, 기존 T‑ALM, MRKL, Toolformer 등은 모델이 도구 스키마를 인식하고 올바른 파라미터를 생성하도록 학습한다. 반면 다중 오케스트레이션은 상태 sₜ, 관찰 oₜ, 피드백 fₜ가 순환하는 복합적인 마코프 결정 과정으로 정의된다. 여기서는 (1) 도구 서브셋 동적 선택, (2) 도구 간 의존성 그래프 구축, (3) 병렬 실행 및 경쟁 조건 관리, (4) 실패 복구와 재계획, (5) 비용·안전 제약을 포함한 비용‑효용 최적화가 핵심 과제로 등장한다.

추론‑시간 패러다임에서는 토폴로지 기반 플래닝, 그래프 강화 LLM, AND/OR 트리, 메모리‑증강 체인‑오브‑생각 등이 제시된다. 예를 들어 GAP은 의존 그래프를 실시간으로 확장해 병렬 가능한 서브태스크를 식별하고, ToolNet은 도구 간 전이 확률을 가중치로 활용해 탐색 공간을 효율적으로 축소한다. 또한 ReAct와 같은 반사형(reactive) 접근법을 넘어, Self‑Reflection, SPIRAL, MetaAgent 등은 자체 검증 루프를 통해 실행 중 오류를 감지하고 수정한다.

학습 측면에서는 (a) 툴‑프리(Training‑Free) 방법—Toolformer, MCP‑Zero 등—이 사전 지식만으로 제로샷 호출을 가능하게 하고, (b) 합성 궤적 데이터 생성—Seal‑Tools, BUTTON, APIGen 등—이 복잡한 다단계 시나리오를 자동으로 라벨링한다. 지도학습 파인튜닝(Gorilla, Hammer)과 강화학습(RL) 기반 접근법(Port‑Tool, DeepAgent)도 각각 정확도와 장기 보상을 최적화한다. 특히 RL에서는 비용 함수에 API 비용·지연·위험을 포함해 실제 서비스 환경과의 정합성을 높이는 것이 강조된다.

안전·제어 차원에서는 병렬 실행 시 상태 일관성 보장을 위한 AARM, SagaLLM, Atomix 등이 제안되고, 체인 실행 중 발생하는 프롬프트 주입·프라이버시 위험을 완화하기 위해 MINJA, Butterfly Effects, LATS 등이 설계되었다. 이러한 방법들은 피드백 루프에서 오류를 감지하고, 필요 시 롤백·재시도 메커니즘을 트리거한다.

효율성 측면에서는 지연 최소화와 호출 비용 절감을 위한 SoT, LLMCompiler, MACI, FrugalGPT, MemGPT 등이 소개된다. 이들은 도구 호출을 미리 예측하거나 캐시·메모리 재사용을 통해 추론 비용을 크게 낮춘다. 또한 비용‑제약 최적화는 λ·Cost(τ) 형태의 라그랑주식 목표로 공식화되어, 성공률과 비용 사이의 트레이드오프를 명시적으로 제어한다.

환경 적응성과 완전성에서는 (1) 도구 경계 인식(Fail‑TALMS, ToolHaystack)과 (2) 자동 도구 생성·확장(LAT‑M, CREATOR, ToolMaker) 그리고 (3) 오픈‑월드 적응(Voyager, ExpeL, AppAgent) 등을 통해 사전 정의되지 않은 API나 동적 UI에 대한 대응 능력을 강화한다. 이는 실제 기업 시스템이나 모바일 앱처럼 도구 집합이 시시각각 변하는 상황에 필수적이다.

마지막으로 벤치마크 설계는 토폴로지 복잡도(NESTFUL, ToolHop), 시간 규모(Tool Decathlon, UltraHorizon), 동적 환경(ToolSandbox, OSWorld), 상태 지속성·자기 수정(OdysseyBench, MemAgentBench) 등 네 차원으로 구분된다. 이러한 다층적 평가 프레임워크는 단순 정확도 측정이 아니라, 전체 시스템의 안정성·효율성·확장성을 종합적으로 검증한다. 전체적으로 논문은 LLM 기반 에이전트가 “도구 호출 → 도구 체인 → 도구 오케스트레이션” 단계로 진화함에 따라 요구되는 알고리즘·데이터·안전·효율·평가 전반을 포괄적으로 정리하고, 향후 연구 로드맵을 제시한다.