자율주행차의 사회적 딜레마

초록

본 연구는 자율주행차(AV)가 사고 상황에서 윤리적 선택을 해야 하는 문제를 다루며, MTurk 참여자 6개 실험을 통해 대다수가 ‘다수의 행복을 위한 유틸리타리안’ 알고리즘을 선호하지만, 실제 자신은 승객을 보호하는 차량을 원한다는 모순을 발견했다. 규제에 따라 유틸리타리안 알고리즘을 강제하면 채택이 지연돼 전체 사망률이 오히려 증가할 수 있다.

상세 요약

이 논문은 자율주행차(AV)가 도덕적 딜레마에 직면했을 때 어떤 알고리즘을 적용할 것인가라는 근본적인 질문을 제기한다. 저자들은 ‘유틸리타리안’ 접근법—즉, 가능한 한 많은 사람의 생명을 구하기 위해 승객을 희생시키는 알고리즘—과 ‘자기보호’ 접근법—승객을 최우선으로 보호하는 알고리즘—을 대비시켰다. 실험은 Amazon Mechanical Turk을 이용해 총 6차례에 걸쳐 진행됐으며, 각 실험마다 참가자들에게 가상의 사고 시나리오와 함께 두 종류의 AV 선택지를 제시했다. 결과는 일관되게 나타났다. 첫째, 다수의 참가자는 사회 전체의 이익을 위해 유틸리타리안 AV가 도입되어야 한다는 원칙적 입장을 지지했다. 둘째, 같은 참가자들은 실제 자신이 탑승할 차량은 승객을 최우선으로 보호하는 ‘자기보호형’ AV를 선호했다. 셋째, 규제 당국이 유틸리타리안 알고리즘을 강제한다면, 사람들은 해당 차량을 구매하거나 이용하려는 의향이 현저히 낮아진다. 이는 ‘규제 역설’이라 부를 수 있는데, 윤리적으로 바람직한 알고리즘이지만, 강제 규제로 인해 기술 채택이 지연되고, 결과적으로 교통 사고 사망률이 증가할 위험이 있다.

저자들은 이 현상을 ‘사회적 딜레마’와 ‘공공선 vs 개인선’의 전형적인 사례로 해석한다. 즉, 개인은 자신의 안전을 최우선으로 생각하지만, 사회 전체는 더 큰 안전을 위해 개인의 위험을 감수하도록 요구한다. 이러한 인지적 불일치는 정책 설계에 큰 난관을 제시한다. 논문은 규제 접근법 대신, 인센티브 기반의 자발적 채택을 촉진하거나, 투명한 윤리 기준을 공개하고 소비자 선택권을 확대하는 방안을 제안한다. 또한, 문화적 차이나 개인의 위험 회피 성향이 결과에 미치는 영향을 추가 연구로 남긴다.

이 연구는 기술 윤리, 행동 경제학, 정책 설계가 교차하는 복합적인 문제를 실증적으로 탐구했으며, AV 윤리 규제 논의에 실질적인 데이터를 제공한다. 특히, ‘규제 역설’이라는 개념은 향후 다른 인공지능 기반 시스템(예: 의료 AI, 군사 로봇)에도 적용될 수 있는 중요한 시사점을 제공한다.