기계 판단과 인간의 운명

초록

알고리즘이 형사 사법·사회 전반의 중요한 결정을 내리는 현 상황을 검토하고, 기계학습 분류기의 작동 원리와 성능 지표를 설명한다. 실제 사례인 HART를 통해 정확도·공정성·투명성·프라이버시 등 네 가지 규범적 기준을 적용해 기술적 특성이 제도적 정당성에 미치는 영향을 분석한다.

상세 분석

본 논문은 기계 학습 기반 분류기가 어떻게 학습하고 예측하는지를 기본 개념부터 차근히 풀어낸다. 먼저 지도학습(supervised learning)과 비지도학습(unsupervised learning)의 차이를 설명하고, 특히 형사 사법 분야에서 주로 사용되는 지도학습의 핵심 절차—데이터 수집, 라벨링, 특징(feature) 선택, 모델 훈련, 검증(validation)—을 상세히 제시한다. 여기서 강조되는 점은 머신러닝이 ‘상관관계’를 기반으로 패턴을 발견한다는 사실이다. 즉, 모델은 인과(causation)를 이해하지 못하고, 훈련 데이터에 내재된 편향(bias)을 그대로 반영한다. 논문은 ‘편향’이라는 용어가 통계·컴퓨터 과학에서는 모델의 일반화 능력을 높이기 위한 의도적 조정(예: 정규화)이라는 의미와, 사회적·윤리적 맥락에서의 차별적 편향이라는 의미가 혼재한다는 점을 명확히 구분한다.

핵심 사례인 Harm Assessment Risk Tool(HART)은 랜덤 포레스트(random forest) 기반의 다중 클래스 분류기로, ‘폭력 재범 위험’을 낮음·보통·높음 세 단계로 예측한다. 훈련 데이터는 영국의 경찰 기록과 재범 사례를 사용했으며, 라벨은 실제 재범 여부에 따라 부여되었다. 특징으로는 연령, 이전 범죄 기록, 거주 지역, 사회경제적 지표 등이 포함되었고, 이들 모두가 상관관계 기반으로 선택되었다. 논문은 HART의 성능을 정확도(accuracy), 정밀도(precision), 재현율(recall), F1 점수 등 여러 지표로 평가했으며, 특히 ‘오류 유형’—위험 과소평가(false negative)와 과대평가(false positive)—가 정책적·윤리적 파장을 어떻게 다르게 야기하는지 분석한다.

네 가지 규범적 기준을 적용한 평가에서는 다음과 같은 문제점이 드러난다. (1) 정확도만으로는 공정성을 판단할 수 없으며, 특정 인구집단에 대한 오류 비율이 불균형하게 나타난다. (2) 형평성(equality before law) 측면에서, 인종·사회경제적 배경에 따라 위험 점수가 차별적으로 부여될 위험이 존재한다. (3) 투명성(transparency)과 책임성(accountability) 측면에서, 랜덤 포레스트는 ‘블랙박스’ 특성을 가지고 있어 개별 예측 근거를 설명하기 어렵다. 이는 법적·사회적 검증 절차와 충돌한다. (4) 개인정보 보호와 표현의 자유(informational privacy and freedom of expression) 관점에서는, 개인의 과거 기록이 광범위하게 수집·활용되며, 데이터 주체가 자신의 데이터 사용에 대해 충분히 통제하지 못한다는 점이 지적된다.

결론적으로, 논문은 기술적 성능과 규범적 요구 사이의 간극을 메우기 위해 ‘인간‑기계 협업(human‑machine collaboration)’ 모델을 제안한다. 알고리즘이 제공하는 위험 점수는 보조적 정보로 활용하고, 최종 결정은 인간 판사가 사회적·법적 맥락을 고려해 내리는 것이 바람직하다고 주장한다. 또한 지속적인 데이터 감시, 편향 교정, 설명 가능한 인공지능(XAI) 도입, 그리고 법제화된 감시 메커니즘을 통해 시스템의 정당성을 확보해야 한다고 강조한다.