소셜미디어 삭제 지연이 불법 콘텐츠 확산 억제에 미치는 한계

초록

EU 디지털서비스법 투명성 데이터베이스를 활용해 5대 플랫폼의 불법 콘텐츠 삭제 지연을 감사하고, 에이전트 기반 시뮬레이션으로 삭제 속도가 콘텐츠 확산, 도달 및 노출에 미치는 영향을 정량화했다. 결과는 몇 시간 이내의 신속한 삭제가 확산을 크게 억제하지만, 실제 관찰된 며칠‑수주 지연은 효과가 거의 없음을 보여준다.

상세 분석

본 논문은 디지털서비스법(DSA) 투명성 데이터베이스(DSA‑TDB)에서 2024년 1월~12월 사이에 보고된 5개 주요 소셜미디어(Facebook, Instagram, YouTube, TikTok, Snapchat)의 ‘Statement of Reasons(SoR)’를 추출해 불법 콘텐츠 삭제 지연(τ)을 정량화하였다. 플랫폼별 평균 τ는 수일에서 수주, 일부 경우는 1년까지 다양했으며, 이는 기존 규제(예: 독일 NetzDG)의 24시간·7일 기준을 크게 초과한다는 점을 시사한다.

삭제 지연을 모델링하기 위해 저자들은 SimSoM이라는 에이전트 기반 확산 모델을 확장하였다. 네트워크는 Twitter/X 기반 팔로워 그래프를 사용했으며, 각 에이전트는 활동 수준 a를 파워‑법(P(a)∝a^γ, γ≈2.85)으로 샘플링한다. 메시지는 원본 게시·재공유·무작위 무응답의 세 가지 행동 중 하나를 선택하며, 재공유 확률은 팔로워 수와 메시지 매력도에 비례한다. 불법 콘텐츠는 이진 속성으로 표시되고, 법적 위법성과 매력도는 독립적으로 가정하였다(실제 상관관계 데이터 부재).

불법 콘텐츠 발생 확률 p는 외부 정책 보고서(‘Future of Free Speech’)에서 추정한 0.00002–0.009 범위 중 보수적 상한 0.01을 채택했다. 저자들은 균등, 이질적, 두 그룹(고위험·저위험) 세 가지 사용자별 p 분포를 실험했으며, 결과는 p값에 크게 민감하지 않음을 확인했다.

시뮬레이션은 τ를 변수로 하여 0시간(즉시 삭제)부터 30일 이상까지 다양한 지연 시나리오를 실행했다. 주요 측정 지표는 (1) 불법 콘텐츠의 시스템 내 평균 존재 비율(Prevalence), (2) 전체 사용자에게 도달한 총 노출 수(Reach), (3) 평균 사용자당 노출 횟수(Exposure)이다. 결과는 τ가 2주를 초과하면 삭제 효과가 급격히 감소해, ‘삭제 없음’ 상황과 거의 구분이 안 되는 수준에 도달한다는 비선형 곡선을 보였다. 반면 τ가 6시간 이하일 경우, 특히 1시간 이내에 삭제가 이루어지면 확산 억제 효과가 70% 이상 상승한다.

이러한 정량적 결과는 기존 규제의 ‘신속한’이라는 모호한 기준이 실제 위험 감소에 충분히 기여하지 못한다는 정책적 함의를 제공한다. 또한, 빠른 삭제가 정확도(오탐률)와의 트레이드오프를 야기할 수 있음을 논의하며, 플랫폼 운영상의 제약(인력·자동화 수준)과 법적 검증 절차를 고려한 ‘합리적’ 시간 기준을 제안한다.

한계점으로는 (1) 불법 콘텐츠 유형별 매력도 차이를 단순화했으며, (2) 실제 사용자 행동을 완전히 재현하지 못하는 모델 구조, (3) SoR 데이터의 보고 편향(플랫폼이 ‘불법’으로 분류하지 않은 콘텐츠는 누락) 등을 들 수 있다. 향후 연구에서는 CSAM·저작권 침해 등 구체적 카테고리별 시나리오와, 자동화된 검증 시스템의 정확도 변수를 포함한 다중 요인 분석이 필요하다.