AI 피해 이후, 무엇을 해야 할까? 정의 프레임워크로 본 보상 행동의 지도

초록

인공지능(AI) 시스템이 사회 전반에 통합되며 다양한 피해를 초래하고 있지만, 피해 발생 후 어떤 보상 행동이 이루어지는지에 대한 연구는 부족합니다. 본 연구는 실제 AI 관련 사건 1,060건을 분석하여 보상 행동을 ‘인정, 귀속, 구제, 개혁’이라는 4가지 목표로 분류한 체계를 제시합니다. 분석 결과, 현재의 대응은 상징적인 초기 단계에 머물러 있으며, 책임 추궁이나 구조적 변화를 위한 행동은 매우 제한적이어서 의미 있는 구제에 미치지 못한다고 지적합니다. 이 연구는 책임 있는 AI를 위한 보다 책임감 있고 회복적인 접근 방식의 기초를 마련합니다.

상세 분석

본 논문은 AI 피해에 대한 사후 대응(보상 행동)을 체계적으로 분석한 선구적 연구입니다. 방법론적으로 두 단계를 거쳤습니다. 먼저, AIAAIC 리포지토리의 사건 중 ‘실질적 보상 행동’이 포함된 200건을 목적적 표본 추출하여 질적 주제 분석을 실시했습니다. 이를 통해 응보적, 회복적, 변혁적 정의 이론에 기반한 4가지 상위 목표(인정, 귀속, 구제, 개혁)와 그 하위 행동(예: 사과, 감사, 벌금, 제품 리콜, 정책 변경)으로 구성된 분류 체계(택소노미)를 개발했습니다. 이는 단순한 분류를 넘어 ‘정의’ 실현의 관점에서 각 행동의 규범적 의미를 평가할 수 있는 틀을 제공합니다.

둘째, 이 분류 체계를 전체 1,060건의 사건에 적용하기 위해 대규모 언어 모델(LLM, GPT-4 Turbo)을 활용한 자동 코딩을 수행했습니다. 검증 결과, 행동 분류에 87%, 이해관계자 분류에 79%의 정확도를 보여 방법론의 타당성을 입증했습니다. 핵심 분석 결과는 매우 뚜렷합니다. 보상 행동의 90% 이상이 ‘인정’(예: 공개 성명)과 ‘귀속’(예: 제3자 감사) 단계에 집중되어 있었습니다. 반면, 피해자에게 직접적인 ‘구제’(예: 배상, 제품 수정)를 제공하는 행동은 약 30%, 시스템이나 정책을 바꾸는 ‘개혁’ 행동은 약 10%에 불과했습니다. 이는 AI 생태계의 책임 회피와 ‘상징적 대응’에 그치는 경향을 여실히 보여줍니다. 또한, 보상 행동을 시작하는 주체는 기업이나 정부 기관이 대부분이었고, 피해를 입은 사용자나 시민 사회의 역할은 상대적으로 미미했습니다. 이 연구는 기술적 해결책만이 아닌, 정의와 책임의 관점에서 AI 거버넌스를 재고해야 할 필요성을 데이터로 증명했습니다.