민감도 정보 없이도 안전한 공정성 보장 스펙트럴 불확실성 집합 기반 SPECTRE

초록

본 논문은 민감도(인구통계) 정보를 사용하지 않고도 분류 모델의 공정성을 보장하는 새로운 방법인 SPECTRE를 제안한다. SPECTRE는 랜덤 푸리에 특성 매핑의 스펙트럼을 조정하고, 최악의 경우 분포가 경험적 분포에서 벗어날 수 있는 정도를 제한하는 스펙트럴 불확실성 집합을 활용한다. 미국 커뮤니티 서베이 데이터셋(20개 주) 실험에서 기존 최첨단 방법들을 능가하는 최악 그룹 정확도와 전체 정확도를 달성했으며, 공정성 보장의 평균값이 가장 높고 변동성이 가장 낮았다. 또한 개별 그룹 및 전체 인구에 대한 최악‑case 오류에 대한 계산 가능한 상한을 이론적으로 제공한다.

상세 분석

SPECTRE는 기존의 최소최대 공정성(minimax‑fairness) 접근법이 갖는 두 가지 근본적인 한계를 극복한다. 첫째, 기존 방법들은 불확실성 집합을 단순히 가중치 재조정 형태로 정의해 경험 데이터의 극단값에 과도하게 민감하게 반응한다. 이로 인해 최악‑case 분포가 실제보다 지나치게 비관적으로 설정돼 전체 정확도가 급격히 떨어지는 경우가 빈번했다. 둘째, 민감도 정보를 전혀 사용하지 않는 상황에서 그룹별 오류를 직접 제어하기 어려워, 실제 배포 환경에서의 공정성 보장이 약화되는 문제가 있었다. SPECTRE는 이러한 문제를 해결하기 위해 랜덤 푸리에 특성(Random Fourier Features, RFF)을 이용해 입력 데이터를 주파수 도메인으로 변환한다. 변환 후 스펙트럼을 조절해 중요한 저주파 성분만 보존하고 고주파 잡음을 억제함으로써, 모델이 과도한 변동성에 노출되지 않도록 한다. 동시에, 스펙트럼 공간에서 최악‑case 분포가 경험적 분포와 차지하는 Kullback‑Leibler(또는 2‑norm) 거리의 상한을 명시적으로 제한한다. 이는 “스펙트럴 불확실성 집합”이라 불리며, 기존의 가중치 재조정 방식보다 더 풍부하고 구조적인 불확실성 표현을 제공한다. 이론적으로는 이 집합 안에서의 최악‑case 오류에 대한 상한을 폐쇄형으로 유도하고, 그 상한이 그룹별 오류와 전체 오류 모두에 적용될 수 있음을 증명한다. 실험에서는 미국 커뮤니티 서베이 데이터셋을 20개 주에 걸쳐 사용했으며, 각 주별로 소득, 교육 수준 등 다양한 라벨을 예측한다. SPECTRE는 동일한 데이터에 대해 민감도 정보를 활용한 최첨단 방법들(예: GDRO, ARL, BPF)보다 높은 평균 최악‑group 정확도를 기록했고, 사분위 범위가 가장 좁아 결과의 안정성도 입증했다. 특히, 전체 정확도는 기존 방법들과 비슷하거나 약간 향상되는 수준을 유지하면서도, 가장 불리한 소수 그룹에 대한 성능 저하를 최소화했다. 이러한 결과는 스펙트럼 기반 불확실성 제어가 과도한 비관주의를 완화하고, 실제 배포 환경에서의 공정성 위험을 효과적으로 완화한다는 것을 시사한다.