마인드포지: 문화학습으로 살아나는 이론‑마음 에이전트

초록

마인드포지는 Minecraft 환경에서 대규모 언어 모델(LLM) 기반 에이전트가 이론‑마음(Theory of Mind) 구조와 다중 메모리 시스템을 활용해 서로 대화하고 지식을 전이함으로써 기본 작업을 크게 개선하고, 지속적인 문화적 평생학습을 실현한다.

상세 분석

본 논문은 기존 Voyager와 같은 오픈‑weight LLM 기반 에이전트가 기본적인 채집·제작 과제에서조차 실패하는 문제점을 지적한다. 이를 해결하기 위해 마인드포지는 세 가지 핵심 모듈을 도입한다. 첫째, BigToM 인과 템플릿을 활용한 구조화된 이론‑마음 표현으로, 감각(percept), 믿음(belief), 욕구(desire), 행동(action)을 그래프 형태로 명시한다. 이 그래프는 BDI 프레임워크와 연결돼 에이전트가 자신의 내적 상태를 명시적으로 추론하고, 파트너의 상태를 “belief‑over‑belief” 형태로 모델링한다. 둘째, 자연어 기반 다중 라운드 커뮤니케이션 채널을 설계해, 각 라운드마다 LLM이 현재 감각, 메모리, 파트너 모델을 프롬프트에 포함시켜 응답을 생성한다. 이렇게 하면 작은 모델이라도 GPT‑4 수준의 코드 품질을 협업을 통해 복제할 수 있다. 셋째, 다중 메모리 서브시스템(에피소드, 의미, 절차/스킬 메모리)을 Soar 아키텍처와 결합해, 경험을 장기 저장하고 필요 시 검색한다. 메모리 검색 결과는 Belief 생성 프롬프트에 삽입돼, 과거 성공·실패 사례가 현재 의사결정에 직접 반영된다. 실험에서는 (1) 지시 학습(Instructed Learning) 상황에서 GPT‑4와 협업한 마인드포지가 오픈‑weight LLM만 사용한 Voyager 대비 기술 트리 마일스톤을 3배, 고유 아이템 수를 2.3배 늘렸다. (2) **협업 학습(Collaborative Learning)**에서는 두 약한 에이전트가 대화 라운드를 늘릴수록 성공률이 Condorcet Jury Theorem과 유사하게 상승했으며, 7 라운드 대화 후 성공률이 62%→79%로 향상되었다. 실패 원인 분석에서는 Voyager가 **잘못된 믿음(false belief)**과 코드 생성 능력 부족에 취약함을 확인하고, 마인드포지는 파트너의 믿음을 교정하고 코드 조각을 공유함으로써 이를 극복한다. 또한, 문화적 학습 프레임워크를 적용해 에이전트가 새로운 바이오미(예: 눈덮인 해변)에서도 기존 지식을 재구성해 OOD(Out‑of‑Distribution) 작업을 수행한다는 점이 주목할 만하다. 전체적으로 마인드포지는 “테스트‑타임 지식 증류”라는 새로운 패러다임을 제시한다. 모델 파라미터를 늘리지 않고도 대화와 메모리 재활용을 통해 성능을 스케일링할 수 있다는 점은 향후 LLM 기반 로봇·가상 에이전트 연구에 중요한 전환점이 될 것으로 보인다.