그라디언트 압축이 일반화에 미치는 영향과 합성 데이터 기반 샤프니스 인식 최소화 개선

초록

본 논문은 연합학습에서 그라디언트 압축이 손실 함수의 샤프니스를 증가시켜 일반화 성능을 저하시킬 수 있음을 실험적으로 입증한다. 이를 완화하기 위해 전역 모델 궤적을 이용해 합성 데이터를 생성하고, 이를 기반으로 정확한 전역 교란을 추정하는 FedSynSAM 알고리즘을 제안한다. 이 방법은 수렴 이론을 제공하고, 다양한 비IID 환경과 압축 비율에서 기존 방법들을 능가한다.

상세 분석

연합학습(FL)에서는 통신 비용 절감을 위해 그라디언트 압축(양자화, Top‑k 희소화 등)이 널리 사용된다. 기존 이론은 압축이 수렴 속도에 미치는 영향을 주로 다루었으며, 일반화 성능에 대한 체계적인 분석은 부족했다. 본 논문은 압축이 손실 함수의 헤시안 최고 고유값을 크게 증가시켜, 모델이 더 ‘날카로운’ 최소점에 머무르게 함을 실험적으로 보여준다. 특히 비IID 데이터 분포에서 이 현상이 두드러지며, 압축 강도가 높을수록 샤프니스가 더욱 악화된다.

샤프니스 인식 최소화(SAM)는 모델 파라미터를 ℓ₂ 구 안에서 최대 손실을 초래하는 교란 ϵ를 찾아, 그 교란에 대한 손실을 최소화함으로써 평탄한 최소점을 탐색한다. SAM을 FL에 직접 적용한 FedSAM은 각 클라이언트가 로컬 그래디언트를 이용해 교란을 추정하지만, 비IID 상황에서는 로컬 그래디언트와 전역 그래디언트 사이의 차이가 커져 교란 추정이 부정확해진다. 기존 연구인 FedLESAM은 이전 라운드의 모델 업데이트를 전역 교란의 근사치로 사용했지만, 압축이 포함되면 이 근사치는 더욱 부정확해진다.

FedSynSAM은 이러한 문제를 해결하기 위해 ‘합성 데이터’를 도입한다. 전역 모델의 시간적 궤적(여러 라운드에 걸친 파라미터 변화)을 이용해, 합성 데이터가 동일한 궤적을 재현하도록 최적화한다(trajectory matching). 구체적으로, 합성 데이터 D_syn을 찾는 목표는 각 라운드 t에서 ∇F(w_t, D_syn)와 실제 전역 그래디언트 ∇F(w_t) 사이의 L2 거리를 최소화하는 것이다. 전역 그래디언트를 직접 구할 수 없으므로, 전역 모델 업데이트 자체가 그래디언트의 근사치라는 점을 활용한다. 즉, w_{t+1} ≈ w_t – η_g ∑_i Q(Δ_t^i) 로부터 얻은 변화량을 이용해 손실을 정의하고, 합성 데이터가 이 변화를 재현하도록 학습한다.

합성 데이터가 확보되면, 각 클라이언트는 로컬에서 SAM의 교란 단계에 전역 그래디언트 대신 ∇F(w_t, D_syn)를 사용한다. 이는 압축 오류와 데이터 이질성에 강인한 교란 추정을 가능하게 하며, 기존 방법보다 높은 코사인 유사도를 보인다(그림 2). 이론적으로는 전역 교란 추정 오차가 ε일 때, FedSynSAM의 수렴 속도가 O(ε)만큼 감소한다는 경계가 제시된다. 실험에서는 CIFAR‑10, Fashion‑MNIST, SVHN 등 여러 데이터셋과 4‑bit 양자화, Top‑k 0.25 희소화 등 다양한 압축 비율을 적용했으며, 비IID(Dirichlet α=0.01)와 병리적 분포 상황에서도 FedSynSAM이 FedLESAM·FedSMOO·FedSAM보다 높은 정확도와 낮은 손실을 기록했다. 특히 압축률이 높을수록 성능 격차가 확대되는 경향이 관찰되었다.

핵심 기여는 다음과 같다. 첫째, 그라디언트 압축이 손실 샤프니스를 증가시켜 일반화에 부정적 영향을 미친다는 새로운 인사이트를 제공한다. 둘째, 전역 모델 궤적을 활용한 합성 데이터 기반 교란 추정 기법을 제안함으로써, 압축 및 비IID 환경에서도 정확한 SAM 적용을 가능하게 한다. 셋째, 수렴 증명과 교란 추정 정확도가 수렴에 미치는 영향을 정량화했으며, 광범위한 실험을 통해 실용성을 검증했다. 이러한 접근은 통신 효율성을 유지하면서도 모델 일반화를 보장하고자 하는 차세대 FL 시스템 설계에 중요한 방향성을 제시한다.