AI 환각 인식과 대응: 학생 경험의 주제 분석

초록

**
본 연구는 대학생 63명을 대상으로 LLM(대형 언어 모델) 환각 경험, 탐지 전략, 그리고 환각 원인에 대한 인지 모델을 탐색한다. 정성적 설문 응답을 주제 분석한 결과, 학생들은 주로 허위·조작된 인용, 사실 오류, 과도한 자신감, 프롬프트 불이행, 반복 오류, 그리고 사교적(시코프) 행동을 환각으로 인식한다. 탐지 방법은 직관적 판단과 외부 자료 교차검증·재프롬프트 등 두 축으로 나뉘며, 환각 원인에 대한 설명은 ‘데이터베이스 부족’, ‘학습 데이터 결함’, ‘프롬프트 부실’, ‘모델의 이해·검증 한계’ 등으로 구분된다. 연구는 AI 활용 교육에 검증 절차와 정확한 AI 메타인지 교육이 필요함을 강조한다.

**

상세 분석

**
이 논문은 AI 리터러시 교육의 새로운 패러다임을 제시한다. 기존 연구가 모델‑중심의 기술적 해결책(예: RAG, 지식 그래프, 확률 조정)에 머물렀다면, 본 연구는 사용자‑중심, 특히 학습자 관점에서 LLM 환각을 조명한다. 63명의 컴퓨터공학 전공 학생을 대상으로 한 개방형 설문은 정성적 데이터 수집에 있어 충분히 대표성을 확보했으며, Braun & Clarke의 주제 분석 절차를 충실히 따랐다. 코딩 신뢰도(86.93 %~93.16 %)가 높아 데이터의 신뢰성을 뒷받침한다.

첫 번째 연구 질문(RQ1)에서 도출된 네 가지 상위 주제는 ‘환각 문제’, ‘프롬프트 문제’, ‘기타(신형 모델 감소·감정 반응)’, ‘도메인별 사례’이다. 특히 ‘환각 문제’는 다시 7개의 하위 주제로 세분화되었는데, 허위 인용(≈25 %), 정보 조작·허위 사실(≈20 %), 과도한 자신감에 의한 오인(≈15 %), 불완전·일반적·무관한 답변(≈14 %), 프롬프트 불이행·가정 삽입(≈10 %), 반복 루프(≈8 %), 시코프/자기모순(≈3 %) 순이다. 이는 학생들이 실제 과제 수행 중에 마주치는 구체적 오류 유형을 명확히 보여준다.

두 번째 질문(RQ2)에서는 ‘직관적 판단’과 ‘검증 기반 탐지’ 두 축으로 구분된다. 직관적 판단은 논리적 불일치, 비현실적 설명, 과도한 상세·일반성 등을 감지 신호로 활용한다. 검증 기반 탐지는 외부 자료 교차검증, 재프롬프트, 코드 실행 결과 확인 등 구체적 절차를 포함한다. 이 두 전략이 상호 보완적으로 작동한다는 점은 교육 설계 시 ‘비판적 사고 훈련’과 ‘실제 검증 도구 활용 교육’을 동시에 제공해야 함을 시사한다.

세 번째 질문(RQ3)에서 학생들의 메타인지 모델은 크게 다섯 가지로 분류된다: (1) ‘데이터베이스 부재’ 가설—모델이 답을 찾지 못하면 스스로 만든다; (2) ‘학습 데이터 편향·오염’ 가설; (3) ‘프롬프트 설계 부실’ 가설; (4) ‘이해·추론 한계’ 가설; (5) ‘모델 자체의 확신 메커니즘’ 가설. 특히 첫 번째 가설은 기술적 사실과는 다르게 모델을 검색 엔진으로 오인하는 인지적 오류를 드러낸다. 이는 AI 교육에서 ‘생성형 AI와 검색형 AI의 차이’를 명확히 가르쳐야 함을 강조한다.

전체적으로 논문은 다음과 같은 시사점을 제공한다. 첫째, 환각 유형이 다양하고 도메인‑특화된 특성을 보이므로 교과 과정에 사례‑기반 학습을 도입해야 한다. 둘째, 직관적 판단만으로는 충분치 않으며, 체계적 검증 절차(예: 사실 확인, 코드 테스트, 출처 검증)를 명시적으로 교육해야 한다. 셋째, 학생들의 오해(‘AI는 데이터베이스’)를 바로잡기 위해 모델의 작동 원리와 한계를 정확히 전달하는 메타인지 교육이 필요하다. 넷째, 시코프(sycophancy)와 과도한 자신감이라는 인간‑유사 행동이 환각 인식을 방해하므로, ‘AI의 자신감 표현과 실제 정확도 사이의 불일치’를 인식시키는 훈련이 요구된다. 이러한 통합적 접근은 AI 활용 학습의 위험을 최소화하고, 학생들이 LLM을 비판적·창의적으로 활용하도록 돕는다.

**