AI와 가자 지구의 집단학살: 알고리즘이 만든 폭력의 책임과 담론

초록

이 논문은 이스라엘이 가자 지구에서 활용한 AI 기반 표적시스템을 ‘알고리즘에 의한 집단학살’ 개념으로 분석한다. 정치·전문·개인 차원의 책임을 구분하고, 기술이 식민적 권력 구조와 어떻게 결합해 폭력을 정당화·숨김하는지를 탐구한다. 궁극적으로 민주적 AI 윤리와 책임 메커니즘을 요구한다.

상세 분석

본 논문은 AI‑기반 무기체계가 전통적인 전쟁법과 인도주의적 규범을 어떻게 우회하는지를 다층적으로 해석한다. 첫째, ‘에피스테믹 인프라스트럭처’라는 개념을 도입해 알고리즘이 목표를 분류·우선순위화하고, 이를 객관적·과학적 판단으로 포장함으로써 국가가 의도적 살상 책임을 회피한다는 점을 강조한다. 둘째, 이 과정에서 데이터 수집·라벨링, 모델 설계, 시스템 통합 단계에 관여한 엔지니어·컨설턴트·방산업체가 ‘전문적 책임’의 주체로서 윤리적 책임을 회피하거나 최소화하는 메커니즘을 상세히 밝힌다. 특히, ‘GSA(Genocidal Surveillant Assemblage)’라는 용어를 통해 이스라엘이 팔레스타인 인구를 집단적 위험군으로 전환시키는 기술‑사회적 조합을 설명한다. 셋째, 개인 차원의 책임을 논의하면서, 군인·운용자·정책 입안자뿐 아니라 일반 시민·언론·학계가 알고리즘 폭력을 정상화하거나 은폐하는 담론적 역할을 수행한다는 점을 지적한다. 논문은 이러한 담론이 ‘기술적 운명론’과 ‘보안‑우선주의’에 의해 강화돼 비판적 사고와 책임 의식을 약화시킨다고 비판한다.

방법론적으로는 국제법·인권법·식민학적 비판이론을 결합한 ‘다학제적 프레임’을 사용한다. 가자 지구에서 보고된 AI‑지원 정밀 타격 사례, ‘Gospel’, ‘Laven’ 등 구체적 시스템 명칭, 그리고 UN·HRW·특별보고서 등 공개 자료를 근거로 삼아 실증적 근거를 제시한다. 또한, 책임의 세 축(정치·전문·개인)을 연결하는 ‘책임 매트릭스’를 구축해 각 행위자가 어떤 방식으로 책임을 전가하거나 회피하는지를 시각화한다.

핵심 통찰은 다음과 같다. (1) 알고리즘은 중립적 도구가 아니라 권력 구조에 내재된 편향을 증폭시켜 ‘인간‑기계 혼합 행위자’를 만든다. (2) 기존 국제법은 인간 주체에 초점을 맞추고 있어, 자동화된 의사결정 과정에서 발생하는 ‘의도 불명확성’에 대응하지 못한다. (3) 기술 기업과 방산업체는 ‘전문적 면책 조항’과 ‘비밀 유지 계약’으로 법적·윤리적 책임을 회피한다. (4) 공공 담론은 ‘위험 최소화’와 ‘정밀성 강조’라는 서술을 통해 폭력의 규모와 성격을 축소한다. (5) 민주적 통제 메커니즘이 부재한 상황에서 AI는 ‘법적 회색 지대’를 만들어내며, 이는 집단학살을 합법화하는 새로운 경로가 된다.

결론적으로, 논문은 AI 윤리와 국제법을 재구성하고, 투명성·책임성·민주적 감시를 강화하는 ‘알고리즘 책임 체계’를 제안한다. 이는 기술적 결함을 넘어 구조적·정치적 변화를 요구하는 급진적 접근이다.