AI 생성 비동의 친밀 이미지 생태계 지도와 대응 전략

초록

본 논문은 AI가 만든 비동의 친밀 이미지(AIG‑NCII)의 생성·배포·수익화에 관여하는 11가지 기술 범주를 체계화하고, 이를 시각화한 생태계 지도를 제시한다. 100여 개의 1차 자료를 종합해 기술들을 ‘창조·배포·확산·인프라·수익화’ 다섯 영역으로 나누고, Grok 사건 등 실제 사례를 통해 지도 활용법을 보여준다. 마지막으로 법제도 정비, 동적 데이터베이스 구축, 관계적 연구 접근을 권고한다.

상세 분석

이 연구는 AI 기반 비동의 친밀 이미지라는 심각한 성폭력 문제를 기술적 관점에서 조망한다는 점에서 학제간 접근의 모범을 제시한다. 먼저 100여 개에 달하는 학술 논문, 언론 보도, 정책 문서, 기술 문서를 체계적으로 수집·분류한 방법론은 투명성과 재현성을 확보한다. 특히 ‘생성(Training Datasets, Generative AI Models, Interfaces)’, ‘배포(Distribution Channels)’, ‘확산·발견(Deepfake Communities, Search Engines, 광고 플랫폼, App Stores)’, ‘인프라(Developer Platforms, Critical Service Providers)’, ‘수익화(Payment Processors)’라는 5대 역할에 11개 세부 기술을 매핑한 것은 기존 연구가 다루던 파편적 현상을 하나의 통합 프레임워크로 정리한 점이 혁신적이다.

생성 단계에서는 데이터셋에 내재된 비동의 이미지와 성적 콘텐츠가 모델 학습을 통해 악용될 수 있음을 강조하고, 공개 데이터셋(LAION‑5B 등)의 검증 부재가 위험 요인임을 지적한다. 모델 단계에서는 오픈소스와 대형 기업 모델 모두가 동일한 악용 가능성을 갖는다는 점을 사례로 제시한다. 인터페이스는 사용자 친화적 프롬프트 설계와 자동 경고 시스템 등 방어적 설계가 가능함을 시사한다.

배포와 확산 영역에서는 소셜 미디어, 이미지 호스팅 사이트, 검색 엔진, 광고 네트워크가 악성 콘텐츠를 빠르게 확산시키는 구조적 메커니즘을 상세히 분석한다. 특히 ‘Deepfake Creation Communities’와 ‘App Stores’가 기술 교환과 신규 악용 툴 배포의 허브 역할을 수행한다는 점은 정책 입안자가 목표를 명확히 설정하는 데 도움이 된다.

인프라와 수익화 단계에서는 클라우드 서비스, 결제 게이트웨이 등 ‘보이지 않는’ 지원 체계가 실제 악용을 가능하게 함을 밝혀, 단순히 콘텐츠 자체를 차단하는 접근만으로는 근본적 해결이 어렵다는 점을 강조한다.

사례 연구에서는 Grok 사건을 통해 새로운 모델이 등장했을 때 생태계 지도가 어떻게 빠른 위험 평가에 활용될 수 있는지를 보여준다. 또한 TAKE IT DOWN 법안, 샌프란시스코 소송, Mr.DeepFakes 폐쇄 사례를 통해 기존 정책·법적 대응이 어느 기술 영역에 초점을 맞추었는지, 그리고 그 효과와 한계를 객관적으로 평가한다.

마지막 권고는 (1) 법·정책 매핑에 생태계 지도를 활용해 중복·공백을 최소화, (2) 11개 기술을 실시간으로 추적·업데이트할 중앙 데이터베이스 구축, (3) 기술 간 ‘엣지’를 분석하는 관계적 연구를 통해 동적 위험 흐름을 파악하라는 실천 지향적 제안이다. 전체적으로 이 논문은 기술 생태계 전체를 조망함으로써 ‘두드리기 게임(whack‑a‑mole)’을 넘어 구조적 방어 체계를 설계할 수 있는 기반을 제공한다.