신경과 상징의 결합으로 완성하는 안전한 로봇 행동 모델

초록

본 논문은 대규모 언어 모델(LLM)의 유연한 추론 능력과 전통적 상징 AI의 논리적 엄격함을 결합한 ‘신경-상징적 합성’ 아키텍처를 제안합니다. 오프더셸프(off-the-shelf) 모델들을 활용하여 대규모 재학습 없이도 로봇의 행동 환각을 방지하고, PDDL 기반의 상징적 래퍼와 인간의 검증 단계를 통해 신뢰할 수 있는 대규모 행동 모델(LAM) 구축 방안을 제시합니다.

상세 분석

이 논문의 핵심적인 기술적 통찰은 LLM이 가진 ‘블랙박스’적 특성과 ‘행동 환각(Action Hallucination)’ 문제를 해결하기 위해 ‘상징적 래퍼(Symbolic Wrapper)‘라는 중간 계층을 도입했다는 점에 있습니다. 기존의 대규모 행동 모델(LAM) 연구들이 LLM의 출력을 직접적인 로봇 제어 명령으로 연결하려 시도했다면, 본 연구는 LLM의 역할을 ‘환경 상태와 목표를 PDDL(Planning Domain Definition Language) 형식으로 구조화하는 것’으로 제한했습니다.

이러한 설계는 매우 영리한 이중 안전 장치를 제공합니다. 첫째, 로봇이 수행 가능한 행동의 도메인은 정적으로 하드코딩되어 있어, LLM이 물리적으로 불가능한 동작을 생성하더라도 시스템의 논리적 범위를 벗어날 수 없습니다. 둘째, LLM이 생성한 PDDL 코드는 Fast Downward와 같은 결정론적 솔버(Deterministic Solver)를 거치게 됩니다. 만약 LLM이 잘못된 환경 상태를 가정하거나 논리적으로 모순된 목표를 생성할 경우, 솔버 단계에서 계획 수립이 실패하게 되므로 실제 로봇의 물리적 실행으로 이어지는 것을 원천 차단합니다.

결과적으로 이 아키텍처는 신경망의 강력한 인지 능력(Perception & Reasoning)과 상징적 AI의 검증 가능성(Verification & Safety)을 계층적으로 통합했습니다. 이는 단순히 기술적인 결합을 넘어, 자원 효율적인 측면에서도 큰 의미를 갖습니다. 거대한 end-to-end 모델을 처음부터 학습시키는 대신, 이미 검증된 VLM, LLM, 그리고 전통적 플래너를 ROS2 기반의 모듈형 시스템으로 재구성함으로써, 새로운 산업 현장에 즉각적으로 적용 가능한 실용적인 프레임워크를 구축했다는 점에서 높은 평가를 받을 수 있습니다.

로봇 공학의 궁극적인 목표는 주변 환경을 인식하고, 상황을 추론하며, 적절한 행동을 수행하는 자율성을 확보하는 것입니다. 하지만 그동안의 기술적 흐름은 두 가지 극단적인 한계에 부딪혀 있었습니다. 전통적인 상징적 AI(Symbolic AI)는 논리적 엄격함은 갖추었으나 복잡한 환경 변화에 대응하는 확장성(Scalability)이 부족했고, 최근의 대규모 언어 모델(LLM) 기반 접근법은 뛰어난 이해력을 보여주었으나 예측 불가능한 ‘환각’ 현상과 제어 불가능성이라는 치명적인 약점을 노출했습니다.

본 논문은 이 두 세계의 장점을 결합한 ‘신경-상징적(Neuro-symbolic) 합성’ 아키텍처를 통해 이 문제를 해결하고자 합니다. 연구진은 대규모의 새로운 모델을 학습시키는 대신, 이미 완성된 다양한 기초 모델(Foundation Models)을 모듈식으로 결합하는 전략을 취했습니다. 핵심은 LLM의 출력을 직접적인 실행 명령이 아닌, 중간 단계의 상징적 표현인 PDD리(PDDL) 코드로 제한하는 ‘상징적 래퍼’ 전략입니다.

구체적인 작동 메커니즘을 살펴보면, 로봇의 물리적 행동 범위(Domain)는 사전에 정의된 규칙에 따라 고정되어 있습니다. LLM은 시각적 언어 모델(VLM)로부터 전달받은 환경 정보를 바탕으로, 현재 상태와 달성해야 할 목표를 PDDL 형식의 텍스트로 생성합니다. 이렇게 생성된 계획은 Fast Downward와 같은 결정론적 솔버에 의해 검증됩니다. 만약 LLM이 물리적으로 불가능한 행동을 제안하거나 논리적 오류를 범한다면, 솔버는 이를 유효하지 않은 계획으로 판단하여 실행을 거부합니다. 이는 소프트웨어 계층에서 물리적 사고를 방지하는 강력한 안전 장치 역할을 합니다.

여기에 ‘인간-인-더-루프(Human-in-the-loop)’ 검증 단계를 공식적으로 통합하여 신뢰도를 극대화했습니다. 사용자는 로봇이 실행하기 전, 생성된 PDDL 코드나 작업 목록을 인터페이스를 통해 직접 검토하고 필요 시 수정할 수 있습니다. 이러한 투명성은 로봇의 행동에 대한 사용자의 신뢰를 높이는 결정적인 요소가 됩니다.

결론적으로, 본 연구는 대규모 학습 없이도 효율적인 모듈 통합(ROS2 기반)을 통해 안전하고 설명 가능한 대규모 행동 모델(LAM)을 구축할 수 있음을 입증했습니다. 이는 로봇의 자율성을 높이면서도 안전성을 보장해야 하는 제조, 물류, 서비스 로봇 등 다양한 산업 분야에서 매우 실용적인 설계 지침을 제공합니다. 특히, 신경망의 유연성과 상징적 AI의 논리적 엄격함이 결합된 이 모델은 향후 지능형 로봇 설계의 새로운 패러다임을 제시하고 있습니다.