LLM 환각 현상 종합 조사

초록

본 논문은 대형 언어 모델(LLM)에서 발생하는 환각 현상의 원인, 탐지 및 완화 방법을 체계적으로 정리한다. 데이터 수집부터 추론 단계까지 개발 전 과정을 원인 분석의 틀로 삼고, 환각 유형을 내재·외재, 사실·신뢰성 등으로 구분한다. 탐지 기법은 검색 기반, 불확실성, 임베딩, 학습, 자기 일관성 등 다섯 가지로 분류하고, 각 접근법의 장·단점을 논한다. 완화 전략은 프롬프트, 검색, 추론, 모델 중심의 네 범주로 정리하며, 혼합 접근이 가장 효과적임을 제시한다. 또한 다국어·저자원 환경, 평가 데이터셋·메트릭, 향후 연구 과제 등을 포괄적으로 검토한다.

상세 분석

본 조사에서는 LLM 환각을 “유창하지만 사실과 어긋나는 텍스트 생성”으로 정의하고, 이를 내재(intrinsic)와 외재(extrinsic) 두 축으로 구분한다. 내재 환각은 입력 문서와 모순되는 정보를 생성하는 경우이며, 외재 환각은 입력에 명시되지 않은 정보를 추가하지만 반드시 틀린 것은 아닌 경우를 말한다. 이러한 구분은 모델이 왜곡된 사실을 만들게 되는 메커니즘을 파악하는 데 핵심이다. 논문은 LLM 개발 파이프라인을 데이터 수집·전처리, 모델 아키텍처, 사전학습, 파인튜닝, 평가, 추론의 여섯 단계로 나누어 각 단계별 환각 원인을 상세히 분석한다. 예를 들어, 데이터 수집 단계에서는 웹 크롤링 시 발생하는 노이즈와 편향이 사실 오류의 근원이며, 아키텍처 설계에서는 과도한 파라미터 수와 자기 회귀 구조가 과도한 추론 자유도를 제공해 사실 검증 없이 텍스트를 생성하게 만든다. 사전학습과 파인튜닝 단계에서는 라벨 품질과 목표 함수 설계가 모델의 사실성에 직접적인 영향을 미친다. 평가 단계에서는 부적절한 벤치마크가 실제 사용 상황과 괴리를 일으켜 환각을 은폐하거나 과소평가할 위험이 있다. 마지막으로 추론 단계에서는 프롬프트 설계와 샘플링 전략이 모델의 확신(confidence)과 일관성을 좌우한다.

탐지 기법은 크게 다섯 범주로 정리된다. 첫째, 검색 기반 방법은 외부 지식베이스와의 매칭을 통해 사실성을 검증하지만, 지식베이스의 최신성·포괄성에 크게 의존한다. 둘째, 불확실성 기반 방법은 모델 자체의 확신 점수를 활용해 고신뢰도 응답을 선별하지만, 과신(confident) 오류를 놓치기 쉽다. 셋째, 임베딩 기반 방법은 생성 텍스트와 원본 텍스트 간 의미적 거리를 측정해 일관성을 판단하지만, 도메인·언어 변이에 취약하다. 넷째, 학습 기반 방법은 라벨링된 환각 데이터로 분류기를 학습해 높은 정확도를 보이지만, 라벨 비용과 데이터 편향 문제가 있다. 마지막으로 자기 일관성 기반 방법은 동일 프롬프트에 대한 다중 샘플 간 일관성을 평가해 논리적 오류를 탐지한다. 각 방법은 장단점이 명확히 드러나며, 단일 기법만으로는 모든 상황을 포괄하기 어렵다. 따라서 상호 보완적인 하이브리드 접근이 필요하다는 결론에 이른다.

완화 전략 역시 네 가지 축으로 구분된다. 프롬프트 기반 방법은 체계적 프롬프트 설계와 사전조건을 통해 모델을 사실 중심으로 유도한다. 검색 기반 완화는 RAG(Retrieval‑Augmented Generation)와 같이 외부 지식을 실시간으로 삽입해 사실 근거를 제공한다. 추론 기반 방법은 체인‑오브‑쓰스(Chain‑of‑Thought)와 자기 일관성 강화 기법을 활용해 내부 논리 흐름을 검증하고, 단계별 피드백을 통해 오류를 수정한다. 모델 중심 접근은 아키텍처 수정, 사실성 전용 손실 함수 도입, 지속적 파인튜닝 등을 포함한다. 실험 결과는 어느 하나의 전략만으로는 환각을 완전히 억제하지 못하고, 프롬프트·검색·추론·모델 중심 기법을 조합한 하이브리드 방식이 가장 높은 사실성을 달성한다는 점을 강조한다. 또한 다국어·저자원 상황에서는 교차언어 전이와 다언어 파인튜닝이 효과적이지만, 언어별 지식베이스 품질 차이가 성능 격차를 야기한다는 한계도 지적한다.

마지막으로 논문은 현재 평가 벤치마크와 메트릭의 한계를 짚으며, 인간 평가와 자동 메트릭을 결합한 다층 평가 프레임워크를 제안한다. 특히 사실성(Factuality), 신뢰성(Faithfulness), 일관성(Consistency) 세 축을 동시에 측정하는 복합 지표가 필요하다고 주장한다. 향후 연구 과제로는 (1) 저비용 라벨링을 통한 대규모 환각 데이터 구축, (2) 동적 지식 업데이트와 실시간 검증 메커니즘, (3) 멀티모달 정보와 연계한 사실 근거 강화, (4) 모델 자체의 메타‑사고 능력 향상을 위한 메타‑학습 등이 제시된다.