인구통계 없이 윤리적 공정성을 구현하는 플레어 프레임워크

** 본 논문은 인간 중심 AI, 특히 의료·교육·직장·디지털 웰빙 등 개인의 삶에 직접적인 영향을 미치는 분야에서, 인구통계 정보를 사용할 수 없거나 사용하기 부적절한 상황에서도 공정성을 확보할 수 있는 새로운 프레임워크 Flare를 제안한다. 기존 공정성 연구는 대부분 인구통계(성별, 연령, 인종 등)를 전제하고 있었으며, 이는 개인정보 보호법·규제·윤리적 이유로 제한된다. 또한, 통계적 평등(parity) 기반 방법은 서브그룹 간 성능을 인위적으로 맞추려다 전체 정확도 저하, 혹은 특정 그룹에 대한 과도한 손실을 초래해 ‘공정성 게리맨더링’ 문제를 일으킨다. Flare는 이러한 한계를 극복하기 위해 (1) 피셔 정보(Fisher Information)를 활용한 곡률 정규화, (2) 임베딩·손실·곡률을 결합한 잠재 서브그룹 탐지, (3) “do‑no‑harm” 적응 학습 메커니즘을 도입한다. 피셔 정보는 손실 함수의 헤시안을 근사해 파라미터 공간의 민감도를 정량화한다. 곡률이 큰 영역은 모델이 데이터 변동에 과도하게 반응하는 지점으로, 여기서 서브그룹이 불안정하게 행동한다는 가설을 세운다. 따라서 피셔 기반 정규화는 손실 표면을 부드럽게 만들어 전체 모델의 자율성(안정성)과 일반화 능력을 향상시킨다. 잠재 서브그룹은 기존의 클래스‑조건부 군집이 아니라, 임베딩 유사도와 손실·곡률을 동시에 고려한 다차원 클러스터링으로 정의된다. 이 과정에서 인구통계 라벨이 없어도 모델이 실제로 차별을 보이는 ‘성능 계층’이 자동으로 드러난다. 탐지된 각 서브그룹에 대해 별도의 파라미터 확장을 학습하되, 업데이트가 기존 파라미터를 악화시키지 않도록 제약하는 것이 “do‑no‑harm” 규제이다. 이 규제는 (i) 베네핏: 전체·서브그룹 정확도 향상, (ii) 비악의성: 어느 그룹도 기준 이하로 떨어지지 않음, (iii) 정의: 성능 편차 최소화, (iv) 자율성: 안정적인 손실 지형 유지라는 네 가지 윤리 원칙을 동시에 만족한다. 평가를 위해 저자들은 BHE(Benefit‑Harm‑avoidance‑Equity)라는 새로운 윤리‑공정성 지표를 설계했다. Benefit은 평균 정확도 상승, Harm‑avoidance는 최악 그룹 성능 저하 여부, Equity는 성능 분산 감소를 각각 측정한다. 기존의 통계적 평등 지표와 달리 BHE는 윤리 원칙과 직접 연결돼 실무에서 해석이 용이하다. 실험은 세 가지 도메인(생리 신호 EDA, 행동 데이터 IHS, 당뇨 관리 OhioT1DM)에서 진행되었다. 각 데이터셋은 다중 센서·다양한 사용자 특성을 포함해 숨은 서브그룹이 풍부하게 존재한다. Flare는 (1) 전체 정확도 1.2~3.5%p 상승, (2) 최악 서브그룹 손실 15~27% 감소, (3) BHE 점수 전반적 우위를 달성했다. 비교 대상으로는 인구통계 기반 재가중(ARL), 지식 증류(KD), 그래프‑오브‑그라디언트(GoG), Reckoner, Group‑DRO, Just‑Train‑Twice(JTT) 등을 사용했으며, 이들 방법은 평균 정확도는 비슷하거나 약간 높지만 최악 그룹 성능 저하가 발생하거나 BHE에서 뒤처지는 결과를 보였다. 아벨레이션 실험에서는 피셔 정규화 없이 학습한 버전, 서브그룹 탐색을 생략한 버전, 그리고 do‑no‑harm 제약을 제거한 버전을 각각 평가했다. 이들 변형은 모두 BHE 점수와 정확도에서 성능 저하를 나타냈으며, 특히 피셔 정규화가 없을 경우 손실 곡률이 급격히 상승해 모델이 불안정해지는 현상이 관찰되었다. 손실 지형 시각화는 Flare가 평탄한 최소점 주변에 파라미터를 머무르게 함을 명확히 보여준다. 마지막으로, 플레어는 경량 CNN 및 Transformer 기반 모델에 적용했을 때, 모바일·엣지 디바이스에서 메모리·연산량 증가가 5~8% 수준에 그쳐 실시간 배포가 가능함을 입증했다. 이는 윤리적·공정성 향상을 위한 추가 연산 비용이 현실적인 수준임을 의미한다. 결론적으로, Flare는 인구통계 정보를 전혀 사용하지 않으면서도 모델 행동을 정밀하게 분석·조정해 윤리 원칙에 부합하는 공정성을 달성한다. 피셔 기반 곡률 정규화와 do‑no‑harm 적응 학습이라는 두 축이 결합돼, 기존 방법이 놓치기 쉬운 서브그룹 간 불균형을 효과적으로 완화하면서도 전체 성능을 유지·향상시킨다. 향후 연구에서는 더 복잡한 멀티모달 데이터와 연속적인 온라인 학습 환경에 Flare를 확장하고, BHE 지표를 다양한 규제·윤리 프레임워크와 연계하는 방안을 탐색할 예정이다. **