에이전트 알파: 단계별 MCTS로 GUI 에이전트의 생성·탐색·평가 통합

초록

Agent Alpha는 멀티모달 대형 언어 모델을 활용해 단계별 몬테카를로 트리 탐색(MCTS)을 적용함으로써 GUI 기반 컴퓨터 사용 에이전트의 행동 생성, 탐색, 평가를 하나의 프레임워크로 통합한다. Alpha‑UCT 탐색 기준, 비교 기반 평가, 다양성 제한 확장, 행동 청킹 등을 도입해 초기 실수 복구와 부분 성공 재사용을 가능하게 하며, OSWorld 벤치마크에서 약 77%의 성공률을 달성해 기존 트라젝터리‑레벨 스케일링 방법들을 크게 앞선다.

상세 분석

본 논문은 복잡한 GUI 환경에서 기존의 일방향 트라젝터리 생성 방식(예: CoT, ToT, bBoN)이 초기에 선택한 서브옵티멀 경로를 회복하지 못하고, 서로 다른 시도 간 정보 공유가 부족하다는 근본적인 한계를 지적한다. 이를 해결하기 위해 Agent Alpha는 단계별 MCTS를 도입하여 탐색 트리를 실시간으로 구축하고, 각 노드에서 LLM 기반 행동 생성·평가를 수행한다. 핵심 기법은 다음과 같다. 첫째, Alpha‑UCT 바운드를 확장해 “최대값 보강 탐색”을 적용함으로써 의존적인 샘플(동일 컨텍스트에서 파생된 행동·평가)에도 유효한 탐색 상한을 제공하고, 기존 UCT 대비 더 빠른 가지치기와 낮은 레지트(후회) 보장을 이론적으로 증명한다. 둘째, 절대 점수 대신 형제 노드 간 비교를 기반으로 하는 “비교‑구동 평가”를 도입해 스코어 편향과 앵커링 효과를 완화한다. 셋째, 행동 청킹을 통해 원자적 클릭·타이핑 등을 하나의 청크로 묶어 더 긴 시계열을 한 번에 평가·전파함으로써 탐색 깊이를 효과적으로 늘린다. 넷째, “다양성‑제한 확장”에서는 어휘 정규화(lexical normalization)와 의미적 중복 제거를 통해 동일 의미의 행동이 트리 내에 중복 생성되는 것을 방지하고, 탐색 공간을 컴팩트하면서도 정보량이 풍부하도록 설계한다. 또한, 트리‑레벨 반영 메커니즘을 통해 이전 탐색에서 얻은 실패·성공 패턴을 “리플렉션”으로 요약하고, 이를 다음 확장 단계의 프롬프트에 삽입해 제안 분포를 동적으로 조정한다. 실험에서는 OSWorld의 30여 개 다양한 GUI 작업에 대해 동일한 테스트‑타임 컴퓨팅 예산(예: 64개의 샘플) 하에서 기존 트라젝터리‑레벨 방법보다 약 10~15% 높은 성공률을 기록했으며, 특히 초기 실수가 발생했을 때 빠르게 대안을 탐색하는 능력이 두드러졌다. 이와 같이 Agent Alpha는 생성·탐색·평가를 일관된 루프 안에 통합함으로써 GUI 에이전트의 회귀적 문제 해결과 효율적 자원 활용을 동시에 달성한다.