상대 개선을 통한 공정 학습: 협상 이론으로 보는 최악‑최소 접근

초록

본 논문은 다중 하위집단에 단일 예측기를 적용할 때, 그룹 공정성을 협상 문제로 재해석한다. 기존의 최악‑그룹 손실 최소화나 후회 최소화와 같은 강건 최적화 방법이 고전 협상 해법에 해당함을 보이고, 새로운 평가 기준인 ‘상대 개선( relative improvement )’을 제안한다. 상대 개선은 기준 모델과 각 그룹의 최적 모델 사이의 위험 감소 비율을 측정하며, 이는 Kalai‑Smorodinsky(KS) 협상 해법과 정확히 일치한다. 논문은 KS 해법의 공정성 공리(파레토 최적성, 대칭성, 규모 불변성, 개별 단조성)를 만족함을 증명하고, 유한 표본 수렴 결과를 제공한다.

상세 분석

이 연구는 “공정 학습을 협상 문제로 본다”는 혁신적인 시각을 제시한다. 기존의 그룹‑DRO나 최소‑최대 후회와 같은 방법은 모두 ‘절대 손실’ 혹은 ‘절대 후회’를 기준으로 최악의 그룹을 최소화한다. 그러나 절대 척도는 각 그룹이 가질 수 있는 최대 개선량이 다를 때 불공정한 결과를 초래한다는 점을 저자는 명확히 지적한다. 예를 들어, 신용점수가 풍부한 집단은 100점의 개선 여지가 있지만, 신용 이력이 얇은 집단은 20점밖에 없을 때, 절대 10점 감소를 강요하면 전자는 90 %의 신호를 활용하고 후자는 50 %에 불과하게 된다.

이를 해결하기 위해 제안된 ‘상대 개선’은
\