프롬프트를 넘어선 신경 기호 인과 아키텍처 견고한 다목표 AI 에이전트

초록

본 논문은 대형 언어 모델(LLM)만을 이용한 자동 의사결정 에이전트가 프롬프트에 따라 결과가 급격히 달라지는 취약성을 지적하고, LLM 전략가, 형식 검증된 기호 제약 엔진, 인과 추론 모듈을 결합한 ‘Chimera’라는 신경‑기호‑인과 아키텍처를 제안한다. 52주 시뮬레이션 기반 전자상거래 환경에서 볼륨·마진 최적화 편향을 각각 적용한 실험에서 Chimera는 기존 LLM‑only와 LLM+제약 모델에 비해 수익과 브랜드 신뢰도 모두 크게 향상되었으며, TLA+ 검증을 통해 제약 위반이 전혀 없음을 증명한다.

상세 요약

Chimera는 세 가지 핵심 모듈로 구성된다. 첫 번째는 LLM 전략가로, 자연어 프롬프트를 해석해 목표‑우선순위와 행동 정책을 생성한다. 여기서는 GPT‑4‑turbo와 같은 최신 사전학습 모델을 사용해 다중목표 최적화 문제를 자연어 수준에서 기술한다. 두 번째는 형식 검증된 기호 제약 엔진이다. TLA+로 정의된 비즈니스 규칙(가격 상한·하한, 재고 제한, 브랜드 신뢰도 하한 등)을 모델링하고, 모델 체커를 통해 실행 전 제약 충족 여부를 검증한다. 이 단계에서 LLM이 제시한 정책이 기호 엔진에 의해 정형화된 제약과 교차 검증되며, 위반 시 자동으로 대안 정책을 재생성한다. 세 번째는 인과 추론 모듈로, 베이즈 네트워크 기반의 인과 그래프를 활용해 “만약‑그렇다면” 시나리오를 시뮬레이션한다. 이를 통해 정책 변경이 가격 탄력성, 고객 신뢰, 계절 수요 등에 미치는 영향을 사전에 예측하고, 기대 효용을 정량화한다.

실험 설계는 실제 전자상거래 플랫폼을 모델링한 52주 시뮬레이션 환경을 사용한다. 가격 탄력성 함수는 비선형이며, 고객 신뢰도는 과거 프로모션 이력과 서비스 품질에 의해 동적으로 변한다. 조직 편향은 두 가지 시나리오로 나뉘는데, 하나는 판매량(볼륨) 극대화, 다른 하나는 마진(수익) 극대화이다. LLM‑only 에이전트는 동일한 전략을 다른 프롬프트 표현으로 전달받을 때 수익이 -99 천 달러까지 급락하거나 브랜드 신뢰도가 -48.6 %까지 감소하는 등 극단적인 불안정성을 보였다. 기호 제약만 추가한 모델은 재해를 방지했지만, 수익은 Chimera 대비 43 %~87 % 수준에 머물렀다. 반면 Chimera는 인과 모듈을 통해 정책의 장기적 파급효과를 평가하고, 제약 엔진을 통해 안전성을 보장함으로써 볼륨 시나리오에서 1.52 백만 달러, 마진 시나리오에서 1.96 백만 달러의 순이익을 달성했으며, 경우에 따라 최대 2.2 백만 달러까지 상승했다. 브랜드 신뢰도 역시 평균 +1.8 %에서 +20.86 %까지 개선되었다.

또한 논문은 TLA+ 모델 검증 결과를 제시한다. 모든 시뮬레이션 단계에서 제약 위반이 0건으로 확인되었으며, 이는 형식 검증이 실시간 의사결정 파이프라인에 안전망을 제공한다는 강력한 증거다. 코드와 시연 데모는 모두 오픈소스로 제공되어 재현성을 확보했다.

이 연구는 “프롬프트 엔지니어링만으로는 충분하지 않다”는 기존 논조를 넘어, 아키텍처 수준에서 신경망, 기호 논리, 인과 추론을 통합함으로써 고위험 도메인에서의 AI 에이전트 신뢰성을 실현할 수 있음을 보여준다. 특히, 인과 모듈이 정책의 잠재적 부작용을 사전에 탐지하고, 기호 엔진이 형식적 안전성을 보장함으로써 LLM의 불확실성을 체계적으로 억제한다는 점이 혁신적이다. 향후 연구에서는 더 복잡한 다중에이전트 협업, 실시간 데이터 스트림 통합, 그리고 인간‑AI 협업 인터페이스 설계 등을 통해 Chimera의 적용 범위를 확대할 여지가 있다.