가정에서 행동으로: LLM 추론을 불확실성 인식 계획으로 전환하는 PCE 프레임워크

초록

본 논문은 대형 언어 모델(LLM)의 추론 과정에서 생성되는 암묵적 가정을 추출·구조화하여 의사결정 트리를 만든 뒤, 시나리오별 가능도·목표 이득·실행 비용을 종합적으로 평가함으로써 다중 에이전트 환경에서 통신 비용을 최소화하고 성공률과 효율성을 높이는 Planner‑Composer‑Evaluator(PCE) 시스템을 제안한다.

상세 분석

PCE는 크게 Planner, Composer, Evaluator 세 모듈로 구성된다. Planner는 기존 LLM 기반 플래너와 동일하게 목표를 고수준에서 분해하고, 체인‑오브‑생각(Chain‑of‑Thought) 방식으로 추론한다. 중요한 차별점은 Planner가 생성하는 텍스트 내에 “가정(assumption)”이라는 형태로 환경에 대한 불확실성을 자연스럽게 드러낸다는 점이다. Composer는 이러한 가정들을 정규 표현식과 의미론적 파싱을 통해 추출하고, 가정‑행동 관계를 트리 구조로 재조합한다. 트리의 내부 노드는 “X가 존재한다/존재하지 않는다”, “협력자가 Y를 수행할 것이다”와 같은 이진 가정으로, 각 경로는 누적된 가정들의 조합을 의미한다. Leaf 노드는 해당 가정 집합 하에서 실행 가능한 물리적 행동 또는 통신 행동을 나타낸다.

Evaluator는 각 경로에 대해 세 가지 점수를 계산한다. (1) 시나리오 가능도(Likelihood)는 가정들의 사전 확률과 LLM이 제공한 근거를 베이지안 방식으로 결합해 추정한다. (2) 목표 이득(Gain)은 현재 목표와 서브골에 대한 기대 보상을 정의하고, 가정이 목표 달성에 미치는 영향을 정량화한다. (3) 실행 비용(Cost)은 물리적 이동 거리, 행동 시간, 그리고 통신 토큰 사용량을 포함한다. 최종 유틸리티 U = α·Likelihood + β·Gain – γ·Cost 로 가중합한 뒤, 가장 높은 U를 가진 경로의 Leaf 행동을 선택한다. 통신은 별도의 행동으로 취급되며, 그 비용이 다른 경로보다 낮을 경우에만 선택된다.

이 설계는 기존의 “통신 중심” 접근과 근본적으로 다르다. 기존 방법은 매 플래닝 단계마다 협력자와 대화를 통해 불확실성을 해소하려 했지만, 이는 토큰 소비와 지연을 크게 늘렸다. PCE는 LLM 내부에 이미 존재하는 가정을 활용해 사전적으로 불확실성을 정량화하고, 필요 시에만 최소한의 통신을 수행한다.

실험에서는 C‑WAH와 TDW‑MAT라는 두 개의 복합 다중 에이전트 시뮬레이션 벤치마크를 사용했으며, GPT‑4o mini, GPT‑OSS:20B, Gemma‑3:4B 등 세 가지 규모의 LLM을 백본으로 적용했다. 모든 설정에서 PCE는 성공률, 평균 에피소드 길이, 토큰 사용량 면에서 기존 통신‑중심 베이스라인을 능가하였다. 특히 모델 용량을 늘리거나 체인‑오브‑생각 깊이를 증가시킨 경우에도, PCE를 적용하면 추가적인 성능 향상이 일관되게 관찰되었다. 이는 불확실성 처리 메커니즘이 모델 스케일링과 독립적으로 효과적임을 의미한다.

추가적인 Ablation 연구에서는 (1) 가정 추출 없이 단순히 LLM 출력만 사용, (2) 가능도·이득·비용 중 하나씩 제외한 경우를 비교했다. 가정 추출을 제거하면 성공률이 평균 12% 감소했고, 비용 항목을 제외하면 불필요한 통신이 급증해 토큰 사용량이 35% 늘어났다.

사용자 연구에서는 인간 파트너와 협업하는 시나리오에서 PCE 기반 에이전트가 “효율적”하고 “신뢰할 수 있다”는 평가를 받았다. 특히 불필요한 질문을 최소화한 점이 긍정적으로 작용했다.

한계점으로는 가정 추출 과정이 LLM 출력의 품질에 크게 의존한다는 점, 그리고 트리 탐색이 가정 수가 급증하면 계산 비용이 증가할 수 있다는 점을 언급한다. 향후 연구에서는 가정의 확률 모델을 학습 기반으로 강화하고, 트리 프루닝 기법을 도입해 실시간 성능을 개선할 여지가 있다.

전반적으로 PCE는 LLM 기반 임베디드 에이전트가 부분 관측, 다중 협력 상황에서 통신 비용을 최소화하면서도 높은 계획 품질을 유지할 수 있는 실용적인 프레임워크를 제시한다.