낮은 누수와 강한 인과력: LLM 인과 추론 파라미터의 새로운 통찰
📝 원문 정보
- Title: 낮은 누수와 강한 인과력: LLM 인과 추론 파라미터의 새로운 통찰
- ArXiv ID: 2512.11909
- 발행일:
- 저자: Unknown
📝 초록 (Abstract)
누수(b)가 0‑0.1 수준으로 낮고 인과 강도 m₁·m₂가 0.75‑0.99 사이인 비‑MV 에이전트는 중간 수준의 사전 확률을 보인다. 반면 MV 혹은 약한 EA를 가진 에이전트는 누수가 0.15‑0.62로 높으며 인과 강도는 0.25‑0.82로 약하다. 향후 과제는 의미가 없는 과제와 콜라이더를 넘어선 다른 인과 구조에 이 프레임워크를 확장해 추론 강인성을 검증하는 것이다. “규범적” 파라미터 영역(낮은 누수, 강한 원인)은 보편적 최적이 아니며, 관찰되지 않은 원인에 대한 불확실성을 필요로 하는 작업에서는 비영(非零) 누수가 오히려 바람직할 수 있다. 현재 프롬프트는 이 차원을 제어하지 못한다—모델에게 미언급 원인을 무시하거나 포함하도록 지시하지 않는다. 체인오브생각(CoT)으로 얻은 설명을 목표로 한 분석은 LLM이 이러한 원인을 어떻게 표현하고 조절하는지에 대한 초기 통찰을 제공할 수 있다.💡 논문 핵심 해설 (Deep Analysis)
반면 MV(멀티버리어트) 혹은 약한 EA(예측 불가능성) 에이전트는 b가 0.15‑0.62로 상승하고, m₁·m₂가 0.25‑0.82로 감소한다. 즉, 모델이 더 많은 불확실성을 허용하고, 인과 관계를 약하게 평가한다. 이러한 파라미터 조합은 특히 원인‑결과 관계가 불명확하거나, 숨겨진 변수의 존재가 합리적인 상황에서 유리하다. 예를 들어, 의료 진단이나 정책 시뮬레이션처럼 ‘불확실성’ 자체가 중요한 의사결정 요소인 경우, 비영(非零) 누수가 오히려 모델의 신뢰성을 높인다.
논문은 또한 현재 프롬프트 설계가 이 차원을 직접 제어하지 못한다는 한계를 지적한다. 즉, 사용자는 모델에게 ‘숨겨진 원인을 무시하라’ 혹은 ‘포함하라’는 명시적 지시를 제공하지 못한다. 이는 체인오브생각(CoT) 방식으로 생성된 설명을 분석함으로써 보완될 수 있다. CoT는 모델이 단계별 추론 과정을 외부에 드러내므로, 설명 내에 숨겨진 원인에 대한 언급 여부를 통해 모델이 실제로 어떤 인과 가정을 채택했는지 추론할 수 있다.
향후 연구 방향으로는 의미가 없는(semantically meaningless) 과제와 콜라이더(collider) 구조를 넘어선 다양한 인과 그래프(예: 퍼지 네트워크, 베이지안 네트워크)로 프레임워크를 확장하는 것이 제시된다. 이를 통해 LLM이 복잡한 인과 구조에서도 일관된 추론을 유지하는지, 혹은 파라미터 설정에 따라 급격히 성능이 변하는지를 체계적으로 검증할 수 있다. 궁극적으로는 사용자 설정에 맞춰 누수와 인과 강도를 동적으로 조정하는 메커니즘을 개발함으로써, ‘규범적’ 파라미터가 반드시 최적이 아니라는 점을 실용적인 시스템 설계에 반영할 수 있을 것이다.
📄 논문 본문 발췌 (Translation)
📸 추가 이미지 갤러리
