다양한 관점과 사전 지식으로 믿음 고착을 깨는 LLM 다중 에이전트 토론

초록

본 논문은 다중 에이전트 토론(MAD)에서 발생하는 ‘믿음 고착(belief entrenchment)’ 현상을 분석하고, 그 원인을 정적 초기 신념과 동질화된 토론 역학으로 규정한다. 이를 해결하기 위해 사전 지식 유도와 관점 다양성을 결합한 DReaMAD 프레임워크를 제안하고, 새로운 전략 게임 벤치마크 MetaNIM Arena에서 실험한다. 결과적으로 DReaMAD는 기존 ReAct 프롬프트 대비 정확도를 9.5% 상승시키고, 표준 MAD 대비 승률을 19% 향상시킨다.

상세 분석

본 연구는 LLM 기반 다중 에이전트 토론이 전략적 의사결정 상황에서 오히려 오류를 증폭시키는 ‘믿음 고착’ 현상을 체계적으로 규명한다. 저자들은 먼저 초기 모델이 가지고 있는 정적 신념(p(0))이 토론 초기에 강하게 형성되며, 이는 토론 과정에서 논리적 타당성보다 빈도와 일치성에 의해 설득력이 결정되는 메커니즘을 제시한다. 이를 수학적으로 모델링한 식(1)은 두 에이전트 간의 합의 확률과 초기 신념에 기반한 갈등 해결 확률을 결합해, 초기 신념이 높은 행동이 토론이 진행될수록 확률적으로 강화된다는 것을 보여준다. 실험에서는 Fibonacci Nim을 이용해 초기 신념이 0.5 이상인 행동이 토론 후에도 확률이 상승하는 현상을 관찰했으며, 이는 y=x 선 위에 위치한 데이터 포인트가 모두 위쪽에 놓인 것으로 시각화된다. 이러한 현상은 ‘에코 챔버’ 효과와 동일하게, 동질적인 에이전트들이 서로의 편향을 강화한다는 점을 시사한다.

이에 대한 해결책으로 제안된 DReaMAD는 두 단계로 구성된다. 첫 번째 단계인 전략적 사전 지식 유도(SPKE)는 게임 상황을 재해석하고 고수준 전략을 명시적으로 도출하도록 프롬프트를 설계함으로써 초기 신념 분포를 올바른 행동 쪽으로 재배치한다. 온도를 0.1로 낮춰 일관된 전략 출력을 확보하고, 이는 식(1)에서 p(0)값을 높이는 효과를 가져온다. 두 번째 단계인 관점 다양화는 각 에이전트에게 서로 다른 자체 생성 프롬프트를 부여해 논리적 경로를 다변화한다. 온도를 0.7로 설정해 다양성을 촉진하고, 동일한 초기 상태에서도 서로 다른 추론 흐름을 생성하도록 유도한다. 이 과정은 토론 역학에서 초기 신념이 설득력의 기준이 되는 구조를 깨고, 논리적 타당성 자체가 설득력을 결정하도록 만든다.

실험 결과는 세 가지 주요 지표에서 DReaMAD의 우수성을 입증한다. 첫째, 정적 데이터셋에서 최적 행동 선택 정확도가 기존 ReAct 대비 평균 9.5% 상승했다. 둘째, 시뮬레이터 기반 대전에서 승률이 표준 MAD보다 19% 높았다. 셋째, 다양한 LLM(예: GPT‑4o, Gemini‑1.5‑pro, Qwen3‑4B)에 적용했을 때 모두 SPKE와 관점 다양화 각각의 기여도를 확인할 수 있었으며, 특히 관점 다양화가 없을 경우 토론이 여전히 편향된 결론에 수렴하는 현상이 재현되었다.

이러한 분석은 LLM 토론 시스템이 단순히 다수 의견을 집계하는 것이 아니라, 초기 신념과 토론 구조를 설계 단계에서부터 조정해야 진정한 오류 교정 메커니즘으로 작동할 수 있음을 강조한다. 또한, 전략 게임이라는 엄격한 평가 환경을 통해 논리적 추론과 전략적 적응력을 동시에 검증함으로써, 향후 LLM 기반 의사결정 시스템의 안전성과 신뢰성을 높이는 방향을 제시한다.