가중치 인식 롤백과 재구성을 통한 이중 단계 연합 딥 언러닝

초록

DPUL은 서버 전용 언러닝 프레임워크로, 고중량 파라미터는 업데이트 크기로 식별해 롤백하고, 저중량 파라미터는 VAE 기반 재구성으로 제거한다. 이후 소규모 데이터와 투영 기법으로 모델을 복구해 정확도 손실을 최소화한다. 실험 결과, 기존 방법 대비 1‑5% 높은 정확도와 최대 12배 빠른 처리 속도를 달성한다.

상세 분석

본 논문은 연합 학습(Federated Learning) 환경에서 특정 클라이언트의 데이터 기여를 완전히 제거하면서도 모델 성능을 유지하는 ‘연합 딥 언러닝(FUL)’ 문제에 집중한다. 기존 연구들은 주로 타깃 클라이언트의 업데이트만을 서버에서 지우는 지식 증류 방식에 의존했으며, 이는 다른 클라이언트의 업데이트에 남아 있는 미세한 개인정보가 재증류 과정에서 다시 모델에 스며들 위험을 내포한다. DPUL은 이러한 한계를 극복하기 위해 두 단계(고중량 파라미터 롤백, 저중량 파라미터 재구성)와 최종 투영 복구 과정을 제시한다.

첫 번째 단계인 ‘Weight‑Aware Rollback’에서는 전역 모델 업데이트 △M과 타깃 클라이언트의 누적 업데이트 △U를 비교한다. 각 파라미터 i에 대해 |△U_i|·λ > |△M_u_i| (λ는 고중량 계수)인 경우를 고중량 기여 파라미터로 판단하고, 이후 라운드에서 해당 파라미터를 가장 최근의 저중량 상태로 되돌린다. 이 과정은 알고리즘 1에 명시된 대로 메모리 롤백을 수행해, 타깃 클라이언트가 남긴 강한 신호를 완전히 차단한다.

두 번째 단계는 ‘Reconstruction Unlearning’이다. 고중량 파라미터를 제거한 후에도 저중량 파라미터에 남아 있는 미세한 정보가 누적될 수 있다. 이를 해결하기 위해 저자들은 β‑VAE(Variational AutoEncoder)를 활용한다. 전역 모델 M과 롤백 후 모델 M′을 동일한 슬라이스(I개)로 분할하고, 각 슬라이스마다 독립적인 VAE 네트워크 V_i를 학습한다. 학습 데이터는 (M_t(i), M′_t(i)) 형태의 쌍으로 구성되며, 손실 함수는 재구성 오차와 KL 발산을 결합한 형태이다. 다중 헤드 학습을 통해 파라미터 공간을 병렬로 탐색함으로써 수렴 속도를 크게 높인다. 학습이 완료되면 각 V_i에 최종 전역 파라미터 M_T를 입력해 재구성된 파라미터 M_u(i)를 얻고, 이를 합쳐 최종 언러닝 모델 M_u를 만든다.

세 번째 단계인 ‘Projected Boost Recovery’는 언러닝 후 모델 정확도를 회복시키기 위한 절차다. 서버는 각 라운드의 정확도 기록 L_acc을 유지하고, 현재 M_u와 가장 근접한 라운드 t를 선택한다. 이후 소규모 데이터 D_b를 이용해 투영 기반 최적화를 수행한다. 구체적으로는 손실 L_b를 최소화하는 방향으로 모델 업데이트 △M_u*를 계산하고, 이를 M_u에 적용해 복구 모델 M_r을 만든다. 이 단계는 기존 지식 증류 방식에 비해 데이터 요구량이 적고, 빠른 수렴을 보장한다.

DPUL의 주요 장점은 (1) 클라이언트 참여 없이 서버만으로 언러닝을 수행해 비용과 시간 절감을 실현, (2) 고중량·저중량 파라미터를 각각 최적화함으로써 개인정보 유출 위험을 최소화, (3) 다중 VAE 헤드와 투영 복구를 결합해 정확도 손실을 최소화한다는 점이다. 실험에서는 CIFAR‑10, FEMNIST, CelebA, 그리고 대규모 이미지 데이터셋 등 네 가지 데이터와 ResNet, MobileNet 등 다양한 아키텍처에 적용했으며, 기존 최첨단 방법 대비 1‑5% 높은 정확도와 최대 12배 빠른 처리 속도를 기록했다.

하지만 몇 가지 한계도 존재한다. 첫째, 서버가 모든 라운드의 파라미터와 업데이트를 저장해야 하므로 저장 비용이 크게 늘어난다. 둘째, VAE 재구성 단계는 하이퍼파라미터(β, λ, 슬라이스 수 등)에 민감하며, 최적값을 찾지 못하면 오히려 성능 저하가 발생할 수 있다. 셋째, 프라이버시 보장을 정량적으로 증명하지 않았으며, 고중량 파라미터 롤백이 실제 개인정보를 완전히 제거한다는 가정이 실험적으로만 검증되었다. 마지막으로, 투영 복구에 사용되는 소규모 데이터 D_b가 충분히 대표성을 갖추지 못하면 복구 정확도가 떨어질 위험이 있다. 이러한 점들을 보완하기 위해 향후 연구에서는 메모리 효율적인 파라미터 스냅샷 저장, VAE 구조의 이론적 프라이버시 분석, 그리고 데이터 효율성을 높인 투영 기법을 탐색할 필요가 있다.

전반적으로 DPUL은 연합 학습 환경에서 서버 전용 언러닝을 실현하기 위한 체계적인 두 단계 접근법을 제시하며, 실험적 검증을 통해 실용성을 입증했다. 향후 확장성과 프라이버시 보증에 대한 이론적 기반이 추가된다면, 연합 딥러닝 시스템에서 데이터 삭제 요구를 만족시키는 핵심 기술로 자리매김할 가능성이 크다.