깊은 가짜와 AI 허위정보에 맞서는 단계별 익명성 제도

초록

본 논문은 딥페이크와 대규모 언어 모델이 만든 허위정보의 급증에 대응하기 위해, 사용자의 ‘도달 점수’를 기준으로 3단계 익명성 체계를 법제화할 것을 제안한다. 소규모 계정은 완전 가명성을 유지하고, 중간 규모 계정은 플랫폼이 보관하는 실명 연동을 요구하며, 대규모 영향력 계정은 독립적인 머신러닝 기반 사실 검증을 거치도록 설계한다. 레딧의 자발적 모더레이션 사례를 통해 단계별 규제의 실현 가능성과 사회적 정당성을 입증하고, 미국·EU·영국의 기존 법제와 연계한 규제 로드맵을 제시한다.

상세 분석

이 논문은 기술·법·사회세계를 아우르는 다층적 접근을 시도한다. 첫째, ‘도달 점수(reach score)’라는 정량적 지표를 도입해 팔로워 수, 공유 횟수, 조회수 등을 가중합산하고, 이를 사전 정의된 임계값과 매핑함으로써 자동으로 사용자를 Tier 1, 2, 3 중 하나에 배정한다. 이 메커니즘은 기존 플랫폼이 이미 수집하고 있는 메타데이터를 활용하므로 별도의 데이터 수집 비용이 거의 들지 않는다. 둘째, 각 티어에 부여되는 ‘프리퀀시 프리시전(friction)’을 설계한다. Tier 1은 기존 가명성을 그대로 유지해 일상적 표현의 자유를 보장하고, Tier 2는 플랫폼 내부에 실명 연동을 저장하되 공개하지 않음으로써 법적 책임을 추적 가능하게 만든다. Tier 3은 독립적인 AI‑assisted fact‑checking 엔진을 통해 사전 검증을 거치며, 검증 실패 시 자동 다운‑랭크 혹은 삭제 조치를 적용한다. 여기서 핵심은 검증 과정이 투명한 로그와 공개 가능한 워터마크를 남겨, 후속 검증 및 책임소재 파악을 용이하게 만든다는 점이다. 셋째, 레딧의 자발적 모더레이션 데이터를 실증적으로 분석한다. 서브레딧 규모가 커질수록 ‘karma’ 최소치, 사전 승인 큐, 심지어 실명 증명 요구와 같은 단계적 장벽이 자연스럽게 도입되는 현상을 관찰했다. 이는 사용자가 ‘도달’에 따라 스스로 프리퀀시를 부과하는 메커니즘이 이미 존재함을 보여준다. 넷째, 규제 로드맵에서는 미국의 First Amendment 판례, EU 디지털 서비스법(DSA), 영국 온라인 안전법을 조합해 ‘플랫폼‑중립적’ 규제 프레임을 설계한다. 법적 논쟁을 최소화하기 위해 ‘프라이버시 보호’를 전제로 하면서도, 고도화된 허위정보에 대한 사회적 비용을 최소화하는 균형점을 찾는다. 마지막으로, 논문은 프리퀀시가 ‘의도적 지연’과 ‘인증 비용’으로 작용해 사용자의 신중한 발언을 유도하고, 이는 기존 연구(예: “read‑before‑retweet” 효과)와 일치한다는 점을 강조한다. 전체적으로 이 논문은 기술적 구현 가능성, 사회적 수용성, 법적 정당성을 동시에 만족시키는 단계별 익명성 모델을 제시함으로써, AI‑기반 허위정보 시대에 필요한 정책적 대안을 제공한다.