대형 언어 모델의 소비자 제품 추천에 내재된 성·인종 편향 분석

초록

본 논문은 GPT‑4 기반 대형 언어 모델(LLM)이 인종·성별에 따라 차별적인 제품 추천을 생성하는지를 조사한다. 프롬프트 엔지니어링으로 15개 인구통계 그룹에 대해 10개씩 제품을 제시하게 하고, Marked Words, SVM, Jensen‑Shannon Divergence 세 가지 방법으로 언어적·카테고리적 차이를 정량화한다. 결과는 특정 인종·성별에 ‘스킨케어·헤어케어’ 등 고정관념에 기반한 아이템이 과다하게 추천되는 편향을 드러내며, LLM 기반 추천 시스템의 공정성 확보 필요성을 강조한다.

상세 분석

이 연구는 LLM이 실제 서비스에 적용될 때 발생할 수 있는 미묘한 편향을 체계적으로 드러내는 데 초점을 맞춘다. 먼저 프롬프트 설계 단계에서 “