검증 위기: 전문가가 본 생성 AI 허위정보와 재현 가능한 출처 관리

초록

본 논문은 AI 연구자·정책입안자·디스인포메이션 전문가 21명을 대상으로 한 설문조사를 통해, 텍스트·이미지·음성·영상 등 멀티모달 생성 AI가 만든 허위정보 위협을 진단한다. 결과는 영상 딥페이크가 ‘충격 효과’로 주목받는 반면, 대규모 텍스트 생성이 정치·사회 전반에 걸친 ‘인식 파편화’와 ‘합성 합의’를 초래한다는 점을 강조한다. 기술적 탐지 도구에 대한 신뢰는 낮으며, 전문가들은 투명한 출처 관리와 규제 프레임워크를 선호한다. 논문은 이러한 위기를 해결하기 위해 재현 가능한 연구 인프라와 표준화된 검증 체크리스트를 제안한다.

상세 분석

이 연구는 ‘검증 위기’를 개념화하고, 생성 AI가 만든 허위정보의 구조적·사회적 위험을 전문가 인식 차원에서 정량·정성적으로 분석한다. 설문은 텍스트, 이미지, 음성, 영상 네 가지 모달리티에 대해 7점 척도로 위협 수준을 평가했으며, 탐지·리터러시·규제·플랫폼·C2PA 등 다섯 가지 대응 전략의 효능을 동일 척도로 측정했다. 텍스트는 평균 6.1점으로 가장 높은 위협 점수를 받았으며, 이는 ‘합성 합의(synthetic consensus)’라는 개념으로 설명된다. 즉, 대량의 AI‑생성 텍스트가 기존 인간 커뮤니케이션을 압도해 사실과 의견의 경계를 흐리게 만든다. 반면 영상 딥페이크는 6.4점으로 ‘충격 가치’를 갖지만, 전문가들은 기술적 탐지가 비교적 가능하다고 인식한다. 탐지 도구의 평균 효능은 3.4점에 불과했으며, 이는 ‘블랙박스’ 문제—알고리즘, 데이터, 파라미터가 공개되지 않아 재현이 어려움—에 기인한다.

방법론적으로는 목적 표본(snowball) 방식으로 고위 정책 입안자·AI 기업 임원·학계 전문가를 모집했으며, 표본 크기(N=21)는 통계적 일반화보다는 깊이 있는 통찰을 목표로 했다. 정량 데이터는 기술통계로 요약했으며, 정성 응답은 Braun‑Clarke의 6단계 주제 분석을 적용해 ‘산업화된 거짓말’, ‘블랙박스 실패’, ‘재현 가능한 저항’이라는 세 축으로 구조화했다. 논문은 Momeni‑Khan의 재현성 체크리스트와 Bleier의 Methods Hub을 활용한 연구 인프라 구축을 제안한다. 특히, 데이터·코드·모델 버전을 명시하고 컨테이너화된 실행 환경을 제공함으로써, 탐지 알고리즘의 성능을 동일 조건에서 검증할 수 있게 한다.

비판적으로 보면, 표본이 유럽 중심이며, 규모가 작아 지역적 편향이 존재한다. 또한, 탐지 효능에 대한 평가는 주관적 인식에 크게 의존하므로, 실제 시스템 성능과 차이가 있을 가능성이 있다. 그러나 연구는 현재 정책·학계·산업계가 직면한 실질적 문제를 조명하고, 재현 가능한 연구 문화가 없을 경우 정책 결정이 ‘추측적’이 될 위험을 강조한다는 점에서 의의가 크다.