포스트트레이닝 공정성 제어를 위한 단일학습 프레임워크 Cofair

초록

Cofair는 하나의 학습 과정만으로 공유 표현 레이어와 공정성‑조건 어댑터를 이용해 사용자 임베딩을 여러 공정성 수준에 맞게 변환한다. 사용자별 정규화 항목을 통해 공정성 수준이 높아질수록 개별 사용자에 대한 공정성이 감소하지 않도록 보장한다. 이론적으로는 적대적 목표가 인구통계적 평등(DP)을 상한으로 잡으며, 정규화가 단계별 공정성 향상을 강제한다. 실험 결과, 다양한 데이터셋·베이스라인 모델에서 재학습 없이도 원하는 공정성 수준을 자유롭게 선택할 수 있으며, 정확도‑공정성 곡선이 기존 최첨단 방법과 동등하거나 우수함을 보여준다.

상세 분석

Cofair의 핵심 설계는 “공유 표현 레이어 + 공정성‑조건 어댑터”라는 두 단계 구조에 있다. 먼저, 기존 추천 모델(BPR, LightGCN 등)에서 추출한 원시 사용자 임베딩 eᵤ를 저차원 공유 임베딩 sᵤ로 변환하는 S(·) 네트워크를 도입함으로써, 모든 공정성 수준에서 공통으로 활용되는 사용자 특성을 하나의 파라미터 집합에 압축한다. 이는 다중 작업 학습(MTL) 원칙에 부합하며, 중복 학습을 방지해 메모리·연산 효율을 크게 향상시킨다.

다음 단계인 어댑터는 각 공정성 수준 t(1…T)마다 별도의 경량 MLP P(t) 를 두어, 공유 임베딩 sᵤ와 원본 임베딩 eᵤ를 입력으로 공정성‑특화 보정 벡터 p(t)ᵤ를 생성한다. 어댑터 출력은 sᵤ와 결합(concatenation)된 뒤 O(·) 레이어를 거쳐 최종 임베딩 e(t)ᵤ가 된다. 이 구조는 “공정성 스위치” 역할을 하여, 학습이 끝난 뒤 원하는 t값만 선택하면 즉시 해당 공정성 수준의 추천을 제공한다는 점에서 사후 제어(post‑training control)를 가능하게 만든다.

공정성 손실은 적대적 디스크리미네이터 D 를 활용한다. D는 e(t)ᵤ를 입력받아 사용자 민감 속성 aᵤ(0/1)를 예측하도록 학습되며, Cofair는 D의 예측을 최소화(즉, BCE 손실을 최소화)함으로써 임베딩이 민감 속성에 대해 불투명해지도록 만든다. 논문에서는 이 적대적 손실이 인구통계적 평등(DP) 차이를 상한으로 잡는 것을 정리(Lemma)하여, DP 감소와 적대적 손실 최소화 사이의 이론적 연결고리를 제시한다.

개별 사용자 수준에서 공정성의 일관성을 보장하기 위해 L_reg 정규화 항목을 도입한다. 각 사용자 u에 대해 레벨 t와 t+1 사이의 공정성 손실 차이를 softplus 함수로 변환해 합산함으로써, “공정성 수준이 높아질수록 개별 사용자의 공정성 손실이 증가하지 않는다”는 모노톤 제약을 강제한다. 이는 그룹 수준 메트릭만으로는 포착하기 어려운 사용자별 불공정 현상을 방지한다.

또한, 각 레벨별 공정성 손실 가중치 λ_t 를 고정값이 아니라 현재 손실 차이에 따라 자동으로 조정하는 적응형 가중치 메커니즘을 제안한다. λ_t+1 = λ_t + η·(1 − L_fair(t)/L_fair(t+1)) 식은, 공정성 개선이 미미하면 λ를 감소시켜 다음 학습 단계에서 공정성 손실에 더 큰 비중을 두게 만든다. 이는 하이퍼파라미터 탐색 비용을 크게 절감하고, 여러 공정성 레벨을 동시에 학습할 때 균형 잡힌 트레이드오프를 유지한다.

전체 최적화 목표는 모든 레벨 t에 대해 추천 손실 L_rec(t)와 공정성 손실 λ_t·L_fair(t) 그리고 정규화 β·L_reg를 평균화한 형태이며, 미니맥스 게임 형태로 D와 나머지 파라미터를 교대로 업데이트한다. 학습 과정은 T개의 어댑터를 동시에 전방패스하고, 역전파 시 공유 레이어와 어댑터를 동시에 업데이트함으로써 전체 학습 시간은 크게 증가하지 않는다.

실험에서는 MovieLens‑1M, Amazon Books, Yelp 등 다양한 공개 데이터셋과 BPR·LightGCN 백본을 사용해, 공정성 수준을 5단계(0.0~1.0)로 조정하면서 DP와 NDCG(정확도) 곡선을 비교했다. 결과는 Cofair가 동일한 학습 비용으로 모든 레벨을 커버하며, 특히 높은 공정성 요구(λ ↑) 상황에서도 NDCG 감소폭이 기존 방법보다 작았다. 또한, 어댑터 수가 늘어나도 메모리·시간 오버헤드가 10% 이하에 머물러 실용성을 입증했다.

요약하면, Cofair는 (1) 공유‑어댑터 구조를 통한 파라미터 효율성, (2) 적대적 손실로 인구통계적 평등을 이론적으로 보장, (3) 사용자‑레벨 정규화로 단계적 공정성 향상, (4) 적응형 가중치로 자동 트레이드오프 조정, (5) 사후에 원하는 공정성 수준을 즉시 선택 가능한 포스트트레이닝 제어라는 5가지 핵심 기여를 제공한다.