대화 기반 목표 추론: 자연어와 베이지안으로 로봇의 의도 파악

초록

본 논문은 인간과의 개방형 대화를 통해 로봇이 사용자의 목표를 자연어 형태로 추출하고, 베이지안 추론을 이용해 목표에 대한 불확실성을 정량화하는 온라인 방법을 제안한다. LLM을 역할극용 인간 시뮬레이터와 likelihood 모델로 활용해 목표 집합을 동적으로 관리하고, 식료품 쇼핑 및 AI2‑Thor 시뮬레이션에서 기존 방법 대비 효율성과 유연성을 입증한다.

상세 분석

이 연구는 두 가지 핵심 가정을 전제로 한다. 첫째, 인간의 선호와 목표는 자연어(NL)로 표현될 때 가장 직관적이며, 로봇이 이를 직접 해석하면 인간‑로봇 인터랙션의 비용이 크게 감소한다는 점이다. 둘째, 목표에 대한 불확실성을 명시적으로 유지해야 로봇이 높은 확신을 가진 목표에만 행동을 취해 위험을 최소화할 수 있다는 점이다. 이러한 가정을 구현하기 위해 저자들은 GOOD(GOals for Open‑ended Dialogue)라는 프레임워크를 설계했으며, 네 개의 모듈(Conversation, Inference, Goal Management, Action)로 구성한다.

Conversation 모듈은 LLM을 프롬프트하여 로봇이 질문을 생성하고, 인간 프로필에 기반해 가상의 인간 응답을 만든다. 여기서 인간 프로필은 사전 정의된 선호(예: 알레르기, 맛 선호)와 상황 정보를 포함한다. Inference 모듈은 베이지안 업데이트 식을 사용해 목표 집합 G에 대한 사후 확률 P(g|u) 를 계산한다. 핵심은 P(u|g) 를 직접 모델링하는데, 이는 “목표 g 를 가진 인간으로 역할극한다”는 프롬프트를 LLM에 전달해 얻은 로그가능도(log‑likelihood)로 근사한다. 이렇게 함으로써 복잡한 인간 언어 행동을 통계적 모델링 없이도 자연어 기반 확률 모델로 변환한다.

Goal Management 모듈은 목표 집합을 동적으로 조정한다. 초기에는 ‘Unspecified’ 라는 포괄적 목표만 존재하고, 베이지안 업데이트 결과 특정 목표의 사후 확률이 일정 임계값을 초과하면 해당 목표를 집합에 추가한다. 반대로 확률이 낮은 목표는 제거한다. 이는 목표 공간이 무한히 큰 현실에서 실용적인 근사화를 제공한다.

Action 모듈은 가장 확률이 높은 k개의 목표를 입력으로 받아 LLM에게 행동 계획을 생성하도록 요청한다. 생성된 행동 시퀀스는 로봇 시뮬레이터에 전달되어 실행되며, 작업이 완료되면 대화 루프를 종료한다.

실험은 두 가지 도메인에서 수행되었다. 첫 번째는 텍스트 기반 식료품 쇼핑 시뮬레이션으로, 사용자는 “글루텐 프리 케이크”와 같은 구체적인 선호를 자연어로 표현한다. GOOD는 대화 중에 이러한 선호를 정확히 추론하고, 불확실성이 낮아진 시점에 해당 재료를 선택한다. 두 번째는 AI2‑Thor 환경에서 로봇이 물체를 찾아 배달하는 과제이다. 여기서는 시각적 인식과 행동 계획이 결합되었으며, GOOD는 목표 불확실성을 관리하면서도 최소한의 대화 턴으로 작업을 완수한다.

베이스라인으로는 (1) 목표를 명시적 벡터 형태로만 관리하고 베이지안 추론을 사용하지 않는 버전, (2) 목표를 자연어로 표현하지만 확률 업데이트 없이 가장 최근 대화에만 의존하는 버전이 사용되었다. 결과는 GOOD가 목표 추론 정확도, 대화 효율성, 그리고 최종 작업 성공률 모두에서 우수함을 보여준다. 특히, 목표 불확실성을 정량화함으로써 로봇이 위험한 행동을 회피하고, 인간이 명시적으로 표현하지 않은 선호(예: 알레르기)까지도 추론할 수 있었다.

이 논문의 주요 기여는 다음과 같다. (1) 자연어 목표를 베이지안 프레임워크에 통합한 최초의 온라인 방법 제시, (2) LLM을 역할극 기반 likelihood 모델로 활용해 인간 언어 행동을 확률적으로 해석, (3) 목표 집합을 동적으로 관리하는 Goal Management 메커니즘 설계, (4) 두 개의 현실감 있는 도메인에서 기존 방법 대비 효율성과 유연성을 실증. 한계점으로는 LLM의 출력 변동성에 따른 추론 불안정성, 그리고 현재는 합성 인간 응답에 의존한다는 점이 있다. 향후 연구에서는 실제 사용자와의 인터랙션, 멀티모달 감각(시각·음성) 통합, 그리고 LLM의 온도 파라미터 최적화를 통해 시스템의 견고성을 높일 수 있을 것이다.