정당한 결정 규칙을 통한 공정성 평가와 달성

본 논문은 데이터에 시스템적 편향이 내재될 가능성이 있는 상황에서 공정성을 어떻게 정의하고 달성할 수 있는지를 새롭게 고찰한다. 기존의 알고리즘 공정성 연구는 주로 “관측된 결정(Y)을 예측하면서 사전에 정의된 통계적·인과적 공정성 제약을 만족한다”는 접근을 취한다. 그러나 관측된 Y 자체가 이미 차별적이라면, 어떠한 제약을 가하더라도 궁극적인 공정성을 확보하기 어렵다. 이를 해결하고자 저자들은 ‘정당한 결정(Desert Decision, Y*)’이라는 잠재 변수를 도입한다. Y*는 개인의 행동, 노력, 능력에 기반해 마땅히 받아야 할 결정이며, 법적·철학적 정의와 일치하도록 ‘조건부 독립성’ 가정(Assumption 1: Y* ⟂ S | V)을 설정한다. 정당한 결정 규칙 τ(V)=P(Y*=1 | V)는 비민감 변수 V 만을 이용해 Y*를 예측하는 최적 예측기로, 교차 엔트로피 손실을 최소화한다는 Proposition 1을 통해 최적성 및 캘리브레이션 특성을 보인다. τ(V)는 S에 의존하지 않으므로, 이를 기반으로 의사결정을 내리면 공정성이 구조적으로 보장된다. 따라서 기존에 흔히 논의되는 ‘유틸리티‑공정성 트레이드오프’를 회피하고, 정확도와 공정성을 동시에 추구할 수 있다. 관측된 결정 Y와 정당한 결정 Y* 사이의 불일치 확률 θ=P(Y≠Y*)를 불공정성의 전반적 정도로 정의한다. θ>0이면 편향이 존재함을 의미하고, 세부적으로 P(Y=0 | Y*=1)와 P(Y=1 | Y*=0) 를 통해 차별과 특혜를 구분한다. 이러한 불공정성 지표는 기존 연구가 주로 사용하던 ‘예측된 결정’ 혹은 ‘관측된 결정’ 기반의 불공정성 측정과는 근본적으로 다르며, 편향 메커니즘 자체를 구조적으로 모델링한다는 점에서 차별화된다. 식별을 위해 세 가지 핵심 가정을 제시한다. 첫째, 정당한 결정이 S와 독립적이라는 공정성 가정(Assumption 1). 둘째, 관측된 결정 Y가 Y*로부터 어떻게 왜곡되는지를 기술하는 ‘불공정성 메커니즘’ 모델, 예를 들어 Y = Y* ⊕ U where U captures bias. 셋째, Y*와 독립적으로 Y*를 예측하는 보조 변수 Z(예: 외부 평가, 실험적 측정)를 도입한다. 이 가정 하에 저자들은 비모수적 식별 정리를 증명하고, sieve 최대우도 추정법을 이용해 τ(V)를, 영향함수 기반 추정법을 이용해 θ를 추정한다. 추정 절차는 다음과 같다. (1) 보조 변수 Z와 V를 이용해 Y*의 잠재 분포를 비모수적으로 추정한다. (2) 추정된 Y* 분포와 불공정성 메커니즘을 결합해 관측된 Y의 확률 모델을 구축한다. (3) sieve 기반 함수 공간을 정의하고, 최대우도 원리를 적용해 τ(V)의 파라미터를 추정한다. (4) θ는 영향함수를 이용해 효율적인 1차원 추정량을 얻으며, 부트스트랩을 통해 신뢰구간을 구성한다. 가정 위반에 대비한 민감도 분석도 제시한다. 예를 들어, Assumption 1이 완전히 성립하지 않을 경우, S와 V 사이에 남은 상관관계를 파라미터 λ로 모델링하고, λ의 다양한 값에 대해 θ와 τ(V)의 추정값이 어떻게 변하는지 탐색한다. 이를 통해 실무 적용 시 가정의 강인성을 검증할 수 있다. 실험에서는 (i) 시뮬레이션을 통해 가정이 만족될 때 추정량이 일관적이고 효율적임을 확인하고, (ii) 실제 데이터(예: Bertrand‑Mullainathan 이름 차별 실험, 신용 대출 데이터, 의료 진단 데이터)에서 기존 공정성 제약 기반 모델과 비교한다. 결과는 정당한 결정 규칙을 직접 추정한 모델이 예측 정확도와 불공정성 감소 모두에서 우수함을 보여준다. 특히, τ(V)를 사용한 의사결정은 S에 무관하게 동일한 캘리브레이션을 유지하면서도 높은 정확도를 달성한다. 결론적으로, 이 논문은 (1) 공정성의 목표를 ‘관측된 결정이 아닌 정당한 결정’으로 재정의하고, (2) 비모수적 식별 및 효율적 추정 방법을 제공하며, (3) 불공정성 메커니즘을 구조적으로 모델링함으로써 기존 공정성 연구의 한계를 극복한다는 점에서 이론적·실용적 기여가 크다. 향후 연구는 다중 민감 속성, 동적 정책 적용, 그리고 정당한 결정 자체의 복합적 정의를 확장하는 방향으로 진행될 수 있다.