예측 텍스트가 성 고정관념을 바꾸다: 인간‑AI 공동 글쓰기에서 편향 영향 분석

초록

본 연구는 영어 단어 예측 텍스트가 제공하는 성 고정관념(프로‑스테레오타입)과 반고정관념(안티‑스테레오타입) 제안이 사람들의 이야기 작성에 미치는 영향을 실험적으로 조사한다. 414명의 참가자를 대상으로 프로‑스테레오타입, 안티‑스테레오타입, 그리고 제안이 없는 대조군으로 나누어 글을 쓰게 한 결과, 안티‑스테레오타입 제안이 일부 시나리오에서 반고정관념 이야기를 증가시켰지만, 전체적으로는 여전히 프로‑스테레오타입 이야기가 우세했다. 즉, 모델 자체의 기술적 디바이싱만으로는 인간‑AI 협업에서 편향을 충분히 완화하기 어렵다는 결론을 도출한다.

상세 분석

이 논문은 인간‑AI 공동 글쓰기(co‑writing) 상황에서 예측 텍스트 시스템이 내포한 성‑직업 고정관념이 사용자 행동에 미치는 메커니즘을 정량적으로 파악하고자 한다. 실험은 사전 등록(pre‑registered)된 온라인 설계로, 총 414명의 참가자를 세 가지 조건(프로‑스테레오타입 제안, 안티‑스테레오타입 제안, 제안 없음)에 무작위 배정하였다. 각 조건에서 모델은 이야기의 핵심 인물(예: 대통령, 의사)과 직업‑성별 연관성을 단일 단어 형태로 제시했으며, 안티‑스테레오타입 조건은 전통적 편향을 의도적으로 반전시킨 제안을 제공한다. 참가자는 제안을 수용하거나 무시하면서 이야기를 완성한다.

주요 결과는 두 가지 차원에서 나타난다. 첫째, 안티‑스테레오타입 제안이 제공된 경우, 특정 시나리오(예: 대통령이 여성이라는 설정)에서 반고정관념 이야기가 통계적으로 유의하게 증가했다. 그러나 참가자는 여전히 프로‑스테레오타입 제안을 더 자주 수용했으며, 안티‑스테레오타입 제안을 무시하는 비율이 현저히 높았다. 둘째, 전체 데이터에서는 프로‑스테레오타입 이야기가 여전히 다수를 차지했으며, 이는 모델이 완전히 디바이싱되더라도 인간의 기존 편향이 강하게 작용함을 시사한다.

연구는 또한 성‑특성(Agency‑Belief‑Communion)과 같은 미묘한 스테레오타입에 대해서는 효과가 약함을 발견했다. 이는 해당 특성이 텍스트에 명시적으로 드러나는 빈도가 낮고, 실제 사회적 인식이 직업‑성별 연관보다 약하기 때문으로 해석된다. 한계점으로는 단일 단어 제안에 국한된 실험 설계, 문화적·언어적 다양성 부족, 그리고 장기적인 편향 내성 변화 측정 부재가 있다. 향후 연구는 다중 단어·문맥 제안, 사용자 맞춤형 피드백, 그리고 지속적 학습 메커니즘을 도입해 인간‑AI 상호작용에서 편향 완화 효과를 강화할 필요가 있다.