에이전트형 검증으로 GUI 보상 모델링 혁신

초록

본 논문은 GUI 자동화 에이전트의 보상 신호를 보다 정확히 제공하기 위해, 검증 에이전트가 환경과 능동적으로 상호작용하는 “Agentic Interactive Verification” 방식을 제안한다. VAGEN 프레임워크는 스크린샷·쉘·파이썬·컴퓨터 사용 도구를 활용해 단계별로 정적·시각·동적 검증을 진행하며, OSWorld‑Verified와 AndroidWorld 벤치마크에서 기존 LLM‑as‑a‑Judge 대비 평가 정확도를 7~9%p 이상 향상시킨다.

상세 분석

VAGEN은 GUI 에이전트 학습에 필수적인 “검증 가능한 보상”을 제공하기 위해, 기존의 규칙 기반 검증과 LLM‑as‑a‑Judge의 한계를 동시에 극복한다. 규칙 기반 방법은 인간이 직접 스크립트를 작성해야 하므로 확장성이 떨어지고, 다중 정답이 존재하는 개방형 과제에 적용하기 어렵다. 반면 LLM‑as‑a‑Judge는 화면 캡처와 텍스트 설명만을 기반으로 판단하기 때문에, 파일 시스템 상태, 백그라운드 프로세스 등 시각적으로 드러나지 않는 잠재 상태를 놓치기 쉽다. VAGEN은 이러한 “partial observability” 문제를 해결하기 위해 검증 에이전트를 실제 GUI와 상호작용하도록 설계하였다.

핵심 설계는 네 가지 도구(스크린샷 확인, 쉘 명령 실행, 파이썬 코드 실행, 컴퓨터 사용)와 “Progressive Verification Mechanism”이다. 먼저 검증 에이전트는 최종 스크린샷과 요약된 연산 로그(H)를 바탕으로 정적 판단(Φ_static)을 수행한다. 명확한 성공·실패 증거가 없을 경우, 과거 스크린샷을 재검토하는 시각 회고 단계(Φ_retro)를 거쳐 간접 증거(E_visual)를 수집한다. 마지막으로 필요 시 쉘·파이썬·직접 클릭 등 동적 도구를 사용해 파일 존재 여부, 레지스트리 값, 프로세스 상태 등을 직접 확인한다. 이 단계적 접근은 검증 비용을 최소화하면서도 높은 신뢰성을 확보한다.

실험에서는 Claude‑Sonnet‑4.5 기반 검증 에이전트를 사용했으며, OSWorld‑Verified에서 클래스 균형·불균형 시나리오 모두 기존 LLM‑as‑a‑Judge(84.7%/85.3%)보다 8~9%p 높은 정확도(92.9%/93.4%)를 달성했다. AndroidWorld에서도 유사한 개선 효과가 보고되었다. 또한 테스트 시점에 여러 검증 에이전트를 병렬로 실행하는 “test‑time scaling” 전략을 적용하면, 액터와 검증 에이전트 모두 성능이 추가로 상승한다.

VAGEN의 강점은 (1) 검증 과정에서 환경을 직접 탐색함으로써 시각적 한계를 극복, (2) 도구 기반 검증으로 다양한 시스템 상태를 정량화, (3) 단계적 검증으로 연산 비용을 효율적으로 관리한다는 점이다. 그러나 현재는 검증 에이전트 자체가 강력한 LLM에 의존하므로, 모델 크기·프롬프트 설계에 따라 성능 변동이 클 수 있다. 모바일 환경에서는 쉘·파이썬 도구가 제한적이어서 검증 능력이 다소 감소한다는 점도 한계로 지적된다. 향후 연구에서는 경량화된 검증 모델, 도메인‑특화 툴킷, 그리고 멀티‑에이전트 협업을 통해 검증 효율성을 더욱 높이는 방향이 기대된다.