이질성 인식 파라미터 가이드로 연합 학습의 최적화·성능 발산 감소

초록

FedRD는 클라이언트 간 도메인·라벨 불균형으로 발생하는 최적화 발산과 성능 발산을 완화하기 위해, 파라미터 기반의 가이드된 전역 집계와 로컬 디바이어스 보정 분류기를 도입한다. 특화 레이어의 파라미터 차이를 이용해 도메인 격차를 정량화하고, 클래스 불균형을 완화하는 가중치를 적용해 로컬 손실을 재조정한다. 또한 전역 모델 업데이트 시 성능 격차를 보정하는 정규화 항을 sigmoid 변환으로 스케일링하여 반영한다. 실험 결과, 다양한 이미지 도메인(Office‑Home, Mini‑DomainNet, PACS, VLCS)에서 기존 연합 학습 기법들을 크게 앞선 정확도를 달성한다.

상세 분석

FedRD는 이질적인 연합 학습 환경에서 두 가지 핵심 문제, 즉 **Optimization Divergence(최적화 발산)**와 **Performance Divergence(성능 발산)**를 명확히 정의하고 이를 동시에 해결하는 프레임워크를 제시한다.

1. 최적화 발산은 도메인 쉬프트와 라벨 쉬프트가 서로 상충하는 방향으로 파라미터 업데이트가 진행될 때 발생한다. 기존 방법들은 도메인 불변 특성을 강조하거나 라벨 불균형을 무시함으로써 한쪽에만 편향된 최적화를 초래한다. FedRD는 이를 해결하기 위해 **파라미터‑가이드된 전역 일반화 집계(Global Generalization Aggregation, GGA)**를 설계한다. 구체적으로, 각 클라이언트의 특성 추출기 파라미터 (w^{\phi}_i)와 전역 파라미터 (w^{\phi}_g) 사이의 유클리드 거리를 도메인‑특이 상관도 (d_i)로 정의하고, 이를 정규화한 가중치 (\beta_i = d_i / \sum_j d_j)를 통해 클라이언트 기여도를 조정한다. 이렇게 하면 도메인 간 차이가 큰 클라이언트는 전역 모델에 과도하게 영향을 미치지 않으며, 도메인 지식이 균형 있게 전파된다.
2. 성능 발산은 로컬 모델이 전역 모델에 비해 수렴 속도와 최종 성능이 크게 차이날 때 발생한다. FedRD는 두 단계에서 이를 완화한다.
   • 디바이어스 분류기(Debiased Classifier, DC): 라벨 불균형을 감지하고, 소수 클래스에 대해 ((1+\lambda)) 배의 가중치를 부여한다. 여기서 (\lambda)는 전역·로컬 분류기 가중치 차이의 평균값으로, 파라미터 차이를 이용해 자동으로 추정된다. 이를 통해 로컬 교차 엔트로피 손실에 클래스‑별 가중치를 곱해 학습을 재조정한다.
   • 성능 격차 보정(GAP) 정규화: 각 라운드에서 전역 모델과 로컬 모델의 손실 차이 (GAP_i = F(D_i; w^{g}{t-1}) - F(D_i; w^{l}{t}))를 계산하고, sigmoid 변환 (\gamma_i = 1/(1+e^{-GAP_i}))을 적용해 전역 집계 시 가중치에 반영한다. 이는 성능이 낮은 로컬 모델이 전역 업데이트에 과소평가되지 않도록 보정한다.
3. 전체 업데이트 식은 두 가중치 (\beta_i)와 (\gamma_i)를 결합해
   \