편향된 AI가 정치적 의사결정에 미치는 영향

초록

본 연구는 자유‑보수 편향을 가진 대형 언어 모델(LLM)이 사용자의 정치적 의견과 예산 배분 결정에 미치는 영향을 두 차례의 인터랙티브 실험을 통해 조사한다. 300명의 미국 성인(공화당·민주당 각각 150명)에게 자유‑보수 편향 모델 또는 중립 모델과 자유롭게 대화하도록 한 뒤, 사전·사후 설문을 비교하였다. 결과는 편향된 LLM에 노출된 참가자들이 모델의 입장에 맞춰 의견과 예산 배분을 유의미하게 변화시켰으며, 이는 개인의 기존 당파성과 반대되는 경우에도 나타났다. AI에 대한 사전 지식이 약하지만 편향 효과를 다소 감소시키는 것으로 확인되었다.

상세 분석

이 논문은 최신 LLM이 일상 생활에 깊숙이 침투함에 따라 모델 내부의 편향이 인간 의사결정에 미치는 위험성을 실증적으로 검증하고자 한다. 실험 설계는 3 × 2 요인 배치(자유‑보수 편향 모델, 중립 모델 × 공화당·민주당)로, 두 개의 과업(주제 의견 과제와 예산 배분 과제)을 순차적으로 수행하도록 구성하였다. 편향 모델은 GPT‑3.5‑turbo에 사전 접두어(prefix)를 삽입해 “극좌 미국 민주당원으로서 답변한다” 등으로 명시함으로써 파인튜닝 없이도 일관된 정치적 스탠스를 부여하였다. 편향 정도는 Political Compass Test를 통해 사전 검증했으며, 자유‑보수 모델은 각각 좌·우 스코어가 유의하게 차이났고, 중립 모델은 76 %의 질문에 입장을 표명하지 않아 실제 중립성을 확보하였다.

참가자는 사전 설문에서 해당 주제에 대한 기초 지식과 의견을 7점 Likert 척도로 기록한 뒤, LLM과 최소 3회, 최대 20회의 자유 대화를 진행하였다. 이후 동일 질문을 다시 제시해 의견 변화를 측정했으며, 예산 배분 과제에서는 사전·사후 할당 비율을 비교하였다. 통계 분석은 주제 의견 변화에 대해 당파별로 별도 순서형 로지스틱 회귀를 적용했으며, β값이 음이면 자유‑보수 모델에 대한 반대 방향, 양이면 동조 방향을 의미한다. 예산 배분 변화는 반복측정 ANOVA와 Dunnett 사후 검정을 사용해 편향 모델군과 중립군 간 차이를 검증하였다.

주요 결과는 다음과 같다. (1) 자유‑보수 편향 모델에 노출된 참가자는 모델의 입장과 일치하도록 의견을 이동시켰으며, 이는 p < 0.05 수준에서 통계적으로 유의했다. 특히 민주당 참가자가 보수‑편향 모델에 노출될 경우 보수적 주제에 대한 지지가 유의하게 상승했으며(β = 0.98, t = 2.71, p = 0.007), 반대로 자유‑편향 모델에 노출될 경우 보수적 주제에 대한 지지가 감소했다(β = ‑0.79, t = ‑2.16, p = 0.03). (2) 예산 배분 과제에서도 동일한 패턴이 관찰되어, 자유‑편향 모델에 노출된 공화당 참가자는 복지와 교육에 대한 할당을 감소시키고, 보수‑편향 모델에 노출된 민주당 참가자는 안전 및 베테랑 서비스에 대한 할당을 증가시켰다. (3) 모델 편향을 인지했는지 여부는 효과 감소에 크게 기여하지 않았으며, AI에 대한 사전 지식(K)은 편향 효과를 약하게(β ≈ ‑0.15) 완화시키는 정도만 보였다. 이는 교육을 통한 AI 리터러시 향상이 편향 위험을 완전히 차단하기엔 부족함을 시사한다.

연구는 몇 가지 제한점을 인정한다. 첫째, 실험 환경이 온라인 설문 형태이므로 실제 정책 결정 상황과는 차이가 있을 수 있다. 둘째, 편향을 유도한 프리픽스 방식은 모델이 ‘인식’하는 편향과 사용자가 감지하는 편향 사이에 불일치를 야기할 가능성이 있다. 셋째, 사후 분석에서 인구통계학적 변수(연령, 교육 수준 등)가 효과에 미치는 조절 역할을 찾지 못했지만, 표본이 미국 성인에 국한된 점을 고려하면 문화적·정치적 맥락에 따라 결과가 달라질 수 있다. 마지막으로, 편향 효과가 단기 인터랙션에서도 나타났음에도 불구하고 장기적인 영향(예: 지속적인 정책 지지 변화) 여부는 추가 연구가 필요하다.

이러한 결과는 LLM이 ‘권위적이면서도 객관적’이라는 인식과 결합될 때, 사용자는 모델의 제시를 사실 그대로 받아들이는 경향이 있음을 보여준다. 따라서 AI 개발자는 편향 최소화뿐 아니라, 사용자에게 모델의 정치적 스탠스를 명시적으로 고지하고, 편향 감지 및 비판적 사고를 촉진하는 인터페이스 설계가 필요하다. 정책 입안자와 규제 기관도 LLM 배포 전 편향 평가 기준을 마련하고, 교육 프로그램을 통해 대중의 AI 리터러시를 강화해야 한다.