독성 콘텐츠 삭제가 온라인 담론에 미치는 왜곡과 해결책

초록

**
본 논문은 텍스트 임베딩과 Bhattacharyya 거리 기반 측정법을 통해 독성 트윗 삭제가 온라인 담론의 의미적 구성을 어떻게 왜곡하는지 정량화한다. 5백만 건의 미국 정치 트윗을 분석한 결과, 독성 콘텐츠 제거는 무작위 삭제보다 훨씬 큰 의미적 변화를 초래한다. 또한, 독성 언어 자체가 아니라 독성 형태로 표현되는 주제 자체가 사라짐에 따라 왜곡이 발생함을 확인한다. 이를 완화하기 위해 대형 언어 모델(LLM)로 독성 트윗을 재표현하는 방안을 제시하고, 재표현이 의미 왜곡을 크게 줄이면서도 독성을 감소시킴을 실증한다.

**

상세 분석

**
이 연구는 먼저 “콘텐츠 왜곡”을 의미 공간(semantic space)에서의 분포 변화로 정의한다. 의미 공간은 최신 Transformer 기반 텍스트 임베딩(BERT, RoBERTa 등)으로 고차원 벡터화되며, 동일한 주제·관점을 가진 문장은 서로 가까운 거리로 매핑된다. 논문은 이러한 임베딩 분포의 변화를 정량화하기 위해 Bhattacharyya 거리를 선택한다. Bhattacharyya 거리는 두 다변량 정규분포의 평균·공분산 차이를 동시에 반영하므로, 평균 이동뿐 아니라 분산 감소까지 포착할 수 있다. 이는 단순 코사인 유사도나 토픽 모델 기반 비교보다 왜곡을 더 민감하게 탐지한다는 장점을 가진다.

실증 분석에서는 5백만 건의 미국 정치 트윗을 샘플링하고, Jigsaw·Perspective API 등 여러 독성 점수 체계를 적용해 독성 기준(0.8)을 초과하는 트윗을 제거한다. 제거 전후의 임베딩 분포를 각각 추정한 뒤 Bhattacharyya 거리를 계산했으며, 결과는 무작위 샘플 삭제에 비해 평균 20 % 수준의 최대 가능한 왜곡에 근접함을 보여준다. 이는 “독성 트윗을 삭제하면 의미 공간의 평균이 이동하고 분산이 축소된다”는 구체적 메커니즘을 시사한다.

다음으로 왜곡의 원인을 두 가지 가설로 나눈다. 첫째, 독성 언어 자체가 의미 공간을 왜곡한다는 가설; 둘째, 독성 언어가 특정 사회·정치적 주제를 담고 있어 그 주제가 사라지면 담론이 변한다는 가설이다. 이를 검증하기 위해 (1) 독성 점수와 직교하도록 임베딩을 투영한 후에도 왜곡이 지속되는지를 확인했고, (2) 대형 언어 모델(GPT‑4)로 독성 트윗을 비독성 형태로 재표현(rephrase)한 뒤 동일한 측정을 수행했다. 직교 임베딩에서도 여전히 의미 변동이 관측되었으며, 재표현된 트윗을 포함한 데이터셋은 원본 대비 Bhattacharyya 거리 감소율이 70 % 이상 감소했다. 이는 왜곡이 단순히 독성 어휘 제거가 아니라, 해당 어휘가 담고 있던 주제·내용의 손실에 기인함을 강력히 뒷받침한다.

정책적 함의 측면에서, 기존의 “독성 콘텐츠 전면 삭제” 접근은 의미적 다양성을 크게 축소시켜 소수 의견·소외된 주제의 표현을 억제한다는 위험을 내포한다. 논문은 LLM 기반 재표현을 새로운 중재 전략으로 제안한다. 이 방법은 (i) 독성 점수를 크게 낮추면서 (ii) 원래 메시지의 핵심 정보를 보존하고, (iii) 의미 왜곡을 최소화한다는 세 가지 목표를 동시에 달성한다. 또한, 제시된 Bhattacharyya 기반 왜곡 측정은 플랫폼·규제기관이 다양한 중재 정책의 비용–편익을 정량적으로 비교할 수 있는 도구로 활용 가능하다.

**