LLM 에이전트 실전 적응력 과제 해결에서 로버스트 실세계 적용까지

초록

본 논문은 LLM 기반 에이전트가 청정 인터페이스가 아닌 현실적인 제약—부분 관측, 동적 환경, 노이즈, 내부 상태 변동—하에서 어떻게 적응하고 견고하게 행동하는지를 평가한다. 격자 기반 퍼즐을 설계해 네 가지 스트레스 요인을 동시에 적용하고, 다섯 최신 LLM 에이전트를 비교한다. 결과는 모델 간 성능 격차와 불안정한 순위 변동을 보여주며, 과제 해결 능력 외에 목표 추론·정보 탐색·위험 관리 능력이 실전 적용에 핵심임을 강조한다.

상세 분석

이 연구는 기존 LLM 에이전트 평가가 “깨끗한 인터페이스” 가정에 지나치게 의존한다는 비판에서 출발한다. 저자들은 네 가지 현실적 운영 상황—부분 관측, 동적 환경, 신호 노이즈, 에이전트 내부 상태 변화—를 구체적인 메커니즘으로 구현한 격자 게임을 설계했다. 게임은 N×N 격자에 키 조각(K), 출구(D), 위험(h), 에너지(e), 규칙 타일(R), 잠재 타일(◦) 등을 배치하고, 에이전트는 로컬 윈도우만을 관찰한다. 관측은 확률적 노이즈가 섞이며, 이동은 슬립 확률이 존재한다. R 타일은 숨겨진 규칙에 따라 키, 위험, 혹은 빈 타일로 변환되고, ◦ 타일은 MEASURE 행동을 통해 비용을 지불하고 실제 타입으로 전환된다. 환경은 일정 스텝마다 날씨 변수에 따라 행동 신뢰도가 변하고, 위험이 퍼지며, 텔레포트 패드(P)를 통해 위치가 강제 이동한다. 또한 100스텝마다 에이전트 자체의 움직임·센싱 비용이 변하는 드리프트 이벤트가 발생한다. 이러한 설계는 실제 로봇·자동화 시스템에서 마주치는 불확실성과 비정형성을 고스란히 재현한다.

평가에는 GPT‑5.2, GPT‑5 mini, Gemini‑3 Pro, Gemini‑3 Flash, Qwen‑3‑2 35B‑A2 2B 등 다섯 모델을 사용했으며, 각 모델은 동일한 텍스트 프롬프트와 행동‑전용 출력 형식을 부여받았다. 실험은 6×6, 8×8, 10×10 격자에 대해 50개 인스턴스를 무작위 생성하고, 성공률(Acc), 평균 점수(Score), 평균 스텝(Steps)을 측정했다. 결과는 다음과 같다. 작은 격자에서는 GPT‑5.2와 Gemini‑3 Pro가 비교적 높은 성공률을 보였지만, 격자 크기가 커지고 불확실성이 증가함에 따라 성공률이 급격히 하락했다. 특히 Gemini‑3 Flash는 중간 규모에서 효율성(낮은 Steps)과 점수(높은 Score)에서 강점을 보였지만, 가장 큰 격자에서는 급격히 성능이 떨어졌다. Qwen‑3 모델은 전반적으로 낮은 성공률을 기록했으며, 일부 설정에서는 전혀 성공하지 못했다. 흥미롭게도 “약한” 모델이 특정 불확실성 regime(예: 높은 노이즈, 빈번한 드리프트)에서는 “강한” 모델을 앞서는 경우가 관찰되었다. 이는 모델이 내재한 전략(예: 탐색 중심 vs. 계획 중심)이 환경 특성에 따라 다르게 적합함을 의미한다.

세부 분석에서는 모델별 실패 원인을 규명했다. 일부 모델은 초기에 R 타일의 규칙을 과도하게 추정하고 불필요한 INTERACT를 반복해 에너지를 소진했다. 또 다른 모델은 SCAN·MEASURE 같은 비용이 드는 정보를 거의 사용하지 않아 중요한 잠재 타일을 놓치고 경로를 재설계하지 못했다. 드리프트 발생 시에는 이전 행동 성공률을 그대로 가정하는 경향이 강해, 슬립 확률이 상승해도 동일한 이동 명령을 지속해 실패가 누적되었다. 반면 Gemini‑3 Flash는 행동 결과를 로그에 기반해 동적으로 신뢰도를 재조정하는 메커니즘을 보였으며, 이는 높은 점수와 낮은 스텝으로 이어졌다. 전체적으로는 “목표 추론”과 “정보 탐색 비용 관리”가 실전 적응력의 핵심 요인으로 부각되었다. 논문은 이러한 관찰을 토대로, LLM 에이전트에 검증·재학습 루프, 안전 행동 선택, 부분 관측 하의 목표 추론 모듈을 통합하는 연구 방향을 제시한다.