LLM 추론 실패의 전면 분석

초록

본 논문은 대형 언어 모델(LLM)의 추론 오류를 체계적으로 정리한 최초의 서베이이다. 추론을 ‘구현(embodied)’·‘비구현(non‑embodied)’으로 구분하고, 비구현을 다시 ‘직관적(informal)’·‘형식적(formal)’으로 나눈다. 오류는 근본적(fundamental), 적용‑특정(application‑specific), 견고성(robustness) 세 축으로 분류한다. 각 오류 유형별 정의, 기존 연구 사례, 원인 분석, 완화 방안을 제시하며, 관련 논문을 GitHub에 공개한다.

상세 분석

이 논문은 LLM 추론 실패를 두 차원(추론 유형 × 실패 유형)으로 구조화함으로써 기존 연구들의 파편화를 해소한다. 첫 번째 축인 ‘추론 유형’은 물리적 환경과 상호작용이 필요한 구현 추론과 텍스트 기반의 비구현 추론으로 나뉜다. 비구현 추론은 다시 인간이 일상에서 사용하는 직관적 판단(휴리스틱·편향)과 수학·논리·코드와 같은 형식적 연산으로 세분된다. 두 번째 축인 ‘실패 유형’은 (1) 모델 아키텍처와 학습 목표에 내재된 근본적 한계, (2) 특정 도메인(코드, 과학, 사회적 상호작용 등)에서 드러나는 적용‑특정 제한, (3) 프롬프트 변형·노이즈 등에 민감한 견고성 문제로 정의된다.

논문은 특히 ‘근본적 실패’를 작업 기억, 억제 제어, 인지 유연성 등 인간의 실행 기능과 비교하면서, LLM이 토큰 예측 중심의 학습으로 인해 이러한 기능을 충분히 모방하지 못한다는 점을 강조한다. 또한 ‘인지 편향’(confirmation, anchoring, order bias 등)이 대규모 텍스트 코퍼스와 Transformer의 인과 마스킹 구조, 그리고 RLHF와 같은 정렬 과정에서 증폭된다는 메커니즘을 상세히 분석한다.

완화 전략은 데이터‑중심(편향 감소 데이터셋 구축, 다양성 확보), 학습‑중심(대립 학습, 메타‑학습, 작업 기억 확장 모듈) 및 사후‑처리(프롬프트 엔지니어링, 출력 필터링, 모델 성격(personality) 조정)으로 구분한다. 특히 체인‑오브‑생각(Chain‑of‑Thought) 프롬프트와 멀티모달 학습이 추론의 깊이와 견고성을 높이는 데 효과적이라는 최신 연구들을 인용한다.

이와 같이 논문은 LLM 추론 실패를 체계적으로 분류하고, 각 카테고리별 원인과 대응 방안을 종합적으로 제시함으로써 향후 연구가 어느 부분에 집중해야 하는지를 명확히 제시한다. 또한 GitHub 레포지토리를 통해 지속적인 데이터베이스 업데이트를 약속함으로써 커뮤니티 기반 연구 생태계 조성에 기여한다.