공정성 보장을 위한 PAC베이지안 일반화 이론

초록

본 논문은 그룹 공정성 측정을 위험 차이로 표현한 뒤, PAC‑베이지안 프레임워크를 이용해 확률적·결정적 분류기 모두에 대한 일반화 경계식을 제시한다. 새로운 경계는 기존의 Oneto 등(2020)보다 더 타이트하며, 정확도와 공정성 모두를 동시에 최적화하는 자체 경계(self‑bounding) 학습 알고리즘을 설계한다. 실험을 통해 세 가지 대표적 공정성 지표(Demographic Parity, Equalized Odds, Equal Opportunity)에 대해 제안 방법의 유용성과 경계의 조밀함을 확인한다.

상세 분석

이 연구는 기존 PAC‑베이지안 이론이 주로 예측 위험에 대한 일반화 보장을 제공하는 한계를 인식하고, 공정성이라는 추가적인 목표를 위험 차이 형태로 정형화한다는 점에서 혁신적이다. 구체적으로, 민감 속성 g∈{a,b}에 대해 각 그룹별 위험 R_D|g(h)를 정의하고, 공정성 위험을 |R_D|a(h)−R_D|b(h)| 로 표현한다. 이 표현은 Demographic Parity, Equalized Odds, Equal Opportunity와 같은 대표적 그룹 공정성 지표를 손쉽게 포함한다.

논문은 먼저 기존의 Stochastic Gibbs 분류기 G_ρ에 대해 Seeger(2002)·Maurer(2004)의 KL‑기반 경계(정리 2.1)를 활용해 두 그룹 각각에 대한 위험 차이를 별도로 바운딩하고, 합동 유니온 바운드를 적용해 전체 공정성 위험에 대한 상한을 도출한다. 이 과정에서 KL(ρ‖π)와 샘플 크기 m_g가 각각 그룹 a와 b에 대해 등장하며, 기존 Oneto 등(2020)의 결과보다 상수와 로그 항이 개선된 형태가 얻어진다.

결정적 분류기 H_ρ(다수결)로 확장하기 위해 최신 PAC‑베이지안 결과(Leblanc & Germain, 2025)를 인용한다. 이 결과는 Gibbs 위험의 상·하한을 모두 제공함으로써 위험 차이의 절대값을 양쪽에서 제어할 수 있게 한다. 특히, R_P(H_ρ) ≤ 2 R_P(G_ρ) 와 같은 전통적 부등식 대신, 새로운 상한·하한 쌍을 이용해 다수결 분류기의 공정성 위험을 직접 바인딩한다. 이렇게 하면 확률적 경계가 결정적 모델에도 적용 가능해져, 실제 시스템에 바로 활용할 수 있다.

알고리즘적 측면에서는 위에서 얻은 두 개의 경계(정확도와 공정성)를 가중합 형태의 목표 함수로 결합한다. 이 목표는 미분 가능하고, KL(ρ‖π)와 경험 위험을 포함하므로, Stochastic Gradient Descent 혹은 변분 추론을 통해 직접 최소화할 수 있다. 따라서 학습 과정 자체가 “자체 경계(self‑bounding)”를 만족한다는 점이 핵심이다.

실험에서는 세 가지 공정성 지표에 대해 다양한 데이터셋(예: Adult, COMPAS 등)에서 기존 방법(예: post‑hoc 보정, 정보‑이론 기반 경계)과 비교한다. 결과는 제안 알고리즘이 동일하거나 더 낮은 실제 공정성 위험을 달성하면서도, 제시된 PAC‑베이지안 경계가 경험적으로 매우 타이트함을 보여준다. 특히, KL‑항이 작게 유지되는 경우 경계가 실제 테스트 오류와 거의 일치함을 확인한다.

전반적으로 이 논문은 (1) 위험 차이 형태로 공정성을 일반화 이론에 통합, (2) stochastic·deterministic 분류기에 모두 적용 가능한 새로운 PAC‑베이지안 경계 도출, (3) 경계 자체를 최적화 목표로 삼는 self‑bounding 학습 프레임워크 제시, (4) 실험을 통한 경계의 실용성 검증이라는 네 가지 주요 공헌을 제공한다.