알고리즘 차별 규제: DI와 UDAP 비교 분석

초록

본 논문은 공정 대출 분야에서 전통적인 차별 영향(Disparate Impact, DI)과 소비자 보호 기반의 부당·기만·학대 행위 금지(UDAP) 두 법적 프레임워크를 수학적으로 형식화하고, 시뮬레이션을 통해 동일한 대출 알고리즘에 적용했을 때의 평가 결과를 비교한다. DI는 결과 차별과 사업 정당성·대안 검증에 초점을 맞추는 반면, UDAP는 ‘불공정성’ 요소로 피해 회피 가능성·비례성·이익‑손해 균형을 추가한다. 실험 결과 두 기준이 일부 경우 일치하지만, UDAP는 DI가 포착하지 못하는 기만·학대형 손해를 포착할 수 있음을 보여준다. 또한 UDAP를 알고리즘에 적용할 때 발생하는 정의상의 모호성(예: ‘실질적 손해’, ‘합리적 회피 가능성’)을 지적하며, 규제 가이드라인의 필요성을 강조한다.

상세 분석

이 논문은 먼저 DI와 UDAP의 법적 구조를 정밀히 분해한다. DI는 ‘중립적 정책이 보호집단에 불균형적인 결과를 초래했는가’라는 초기 입증 단계, 이후 ‘사업 정당성(business justification)’과 ‘덜 차별적인 대안 가능성’이라는 두 단계의 부담 전환(burden‑shifting) 메커니즘으로 구성된다. 이를 알고리즘적 맥락에 옮기면, 결과 차별 지표(예: 통계적 차별률, 80% 규칙)와 정책 변수(신용 점수 산출 방식) 사이의 인과관계를 추정하고, 대안 모델(예: 변수 제거 혹은 가중치 조정)과의 성능‑공정성 트레이드오프를 정량화한다.

반면 UDAP는 ‘불공정성’·‘기만성’·‘학대성’이라는 세 축으로 나뉘며, 특히 ‘불공정성’은 (1) 실질적 손해(substantial injury) 발생, (2) 손해 회피 가능성(avoidability), (3) 이익‑손해 비례성(proportionality)이라는 삼중 요건을 요구한다. 논문은 이를 수치화하기 위해 손해를 금전적 손실(대출 거절에 따른 기회비용)과 비금전적 손해(신용 평판 손상)로 분류하고, 회피 가능성을 ‘알고리즘 설계자가 손해를 최소화할 수 있었는가’라는 형태로 모델링한다. 비례성은 손해와 기업 이익(예: 신용 리스크 감소, 운영 효율성) 사이의 비교 함수로 구현한다.

시뮬레이션에서는 가상의 대출 데이터셋에 로지스틱 회귀와 랜덤 포레스트 모델을 적용하고, 두 모델에 대해 DI와 UDAP 기준을 동시에 평가한다. 결과는 다음과 같다. (1) DI는 주로 결과 차별률이 기준치를 초과하면 위반으로 판단하지만, UDAP는 동일한 차별률이 있더라도 손해 회피가 가능하거나 기업 이익이 손해를 상회하면 ‘불공정’으로 보지 않는다. (2) UDAP의 ‘기만성’ 요건은 모델이 소비자에게 오해를 일으키는 변수(예: ‘소득 추정’ 변수를 명시하지 않음)를 포함할 경우 DI와 무관하게 위반을 초래한다. (3) ‘학대성’은 취약계층(예: 신용 기록이 짧은 청년)에게 과도한 위험을 전가하는 경우를 포착하는데, 이는 DI의 통계적 차별 검증만으로는 드러나지 않는다.

이러한 차이는 두 프레임워크가 근본적으로 다른 규제 목표를 가지고 있음을 시사한다. DI는 차별 결과 자체를 규제하고, 비즈니스 정당성을 통해 정책의 합리성을 검증한다면, UDAP는 소비자 손해 전체를 포괄적으로 평가하고, 기업 이익과 사회적 비용을 균형 있게 고려한다. 따라서 알고리즘 설계자는 ‘공정성’과 ‘소비자 보호’라는 두 축을 동시에 만족시키기 위해, 차별 지표뿐 아니라 손해 회피 가능성, 비례성, 그리고 정보 제공 투명성까지 설계에 반영해야 한다.

마지막으로 논문은 UDAP를 알고리즘에 적용할 때 남는 주요 모호성을 정리한다. (① ‘실질적 손해’의 정량화 기준, (② ‘합리적 회피 가능성’ 판단 기준, (③ ‘이익‑손해 비례성’의 객관적 측정 방법) 등은 현재 규제 문서에 명확히 제시되지 않아, 실무 적용 시 큰 불확실성을 만든다. 이러한 공백은 향후 입법·규제기관이 구체적인 지침을 제공함으로써 해소될 필요가 있다.