불완전한 기울기로부터 비잔틴 강인성 가속과 유사성 기반 최적화

초록

본 논문은 비잔틴 공격에 강인한 연합학습을 위해 기존 강인 집계 기법을 불완전한(인액추얼) 그라디언트 오라클 모델로 재구성한다. 이를 통해 표준 GD가 최적의 수렴 오차를 달성함을 보이고, Nesterov 가속과 유사성 기반 프록시 손실을 활용한 두 가지 가속 알고리즘을 제안한다. 제안 방법은 통신 라운드 수를 크게 감소시키며, 이론적 보증과 실험을 통해 기존 방법보다 우수함을 입증한다.

상세 분석

논문은 먼저 비잔틴 실패 모델을 정의하고, 서버‑클라이언트 구조에서 f개의 악의적 클라이언트가 존재할 때 전체 손실 L_H(x)=1/(n‑f)∑_{i∈H}L_i(x)를 최소화하는 문제를 다룬다. 각 로컬 손실 L_i는 μ‑강한 볼록성과 L‑스무스성을 만족한다는 표준 가정을 두며, H에 속한 클라이언트들의 그라디언트 이질성을 (G,B)‑heterogeneity 형태로 정량화한다. 이때 G는 절대 이질성, B는 상대 이질성을 나타내며, 기존 비잔틴 하한 결과는 G와 B, 그리고 비율 f/n에 따라 달성 가능한 최저 오차를 제한한다.

핵심 기여는 이러한 설정을 (ζ²,α)‑불완전 그라디언트 오라클 모델로 정확히 매핑한다는 점이다. 저자는 (f,ν)‑강인 집계 규칙 F가 존재하면, F를 적용한 후 얻는 추정 그라디언트 \tilde∇L_H(x)는 ∥\tilde∇L_H(x)−∇L_H(x)∥² ≤ νG² + νB²∥∇L_H(x)∥² 를 만족한다. 여기서 ζ²=νG², α=νB² 로 정의되며, 이는 기존의 불완전 오라클 문헌에서 다루는 형태와 일치한다. 따라서 강인 집계와 이질성 가정을 결합하면, 비잔틴 환경을 일반적인 인액추얼 그라디언트 문제로 변환할 수 있다.

이 변환의 타이트함을 증명하기 위해 저자는 Ajalloeian & Stich(2020)의 결과를 활용한다. L‑스무스·μ‑강한 볼록 함수에 대해 (ζ²,α)‑오라클을 사용한 GD는 단계 크기 η≤1/L 일 때 ζ²/(2μ(1−α)) 반경 내에 수렴한다. 또한 (f,ν)‑강인 집계 규칙에 대한 알려진 하한 ν≥f/(n‑2f)와 ν=O(f/(n‑f))를 결합하면, 최종 수렴 오차가 G²·μ·f/(n‑(2+ B²)f) 형태로 기존 비잔틴 하한과 일치함을 보인다. 즉, 불완전 그라디언트 모델을 이용해도 최적의 하한을 놓치지 않는다.

가속 부분에서는 Devolder et al.(2014)의 가속 인액추얼 그라디언트 방법을 그대로 적용한다. 알고리즘 2는 γ_k와 Γ_k를 적절히 선택해 Nesterov‑type 업데이트를 수행하며, (ζ²,α)‑오라클에 대해 μ‑강한 볼록성 가정 하에 O((pμ/L)·log(1/ε))의 선형 가속 수렴률을 얻는다. 여기서 p는 (f,ν)‑강인 집계의 강인 계수와 관련된 상수이다. 이 결과는 기존 비잔틴 가속 연구가 얻지 못했던 실제 가속률을 제공한다.

두 번째 가속 기법은 “유사성(Optimization under Similarity)” 아이디어를 도입한다. 서버가 전체 손실 L_H와 근사 손실 \tilde L을 보유하고 있다고 가정하고, \tilde L의 헤시안이 L_H와 Δ만큼 차이 난다고 하면, Prox‑Inexact Gradient under Similarity (PIGS) 알고리즘을 설계한다. PIGS는 프록시 손실의 2차 정보를 활용해 업데이트를 수행하며, Δ가 L보다 작을 경우 O(Δ/μ·log(1/ε))의 선형 수렴률을 달성한다. 이는 기존 GD 기반 방법보다 통신 라운드 수를 크게 줄인다. 이론 증명은 Woodworth et al.(2023)의 비잔틴 오류 모델을 확장한 형태이며, α와 ζ²에 대한 추가 보정 항을 포함한다.

실험에서는 MNIST·CIFAR‑10 등 실제 데이터셋에 대해 좌표별 트리밍, Krum, geometric median 등 다양한 강인 집계와 함께 제안 알고리즘을 비교한다. 결과는 가속 알고리즘이 동일한 정확도에서 통신 비용을 2~5배 절감하고, 비잔틴 비율이 30%까지 증가해도 수렴이 유지됨을 보여준다. 전체적으로 논문은 비잔틴 강인성을 기존 인액추얼 그라디언트 이론에 매핑함으로써, 가속 및 유사성 기반 최적화를 자연스럽게 도입할 수 있음을 증명한다.