연합 학습에서 효율적인 데이터 삭제와 재학습 방지: FedCARE

초록

FedCARE는 연합 학습 환경에서 클라이언트·샘플·클래스 수준의 데이터 삭제를 저비용으로 수행하고, 삭제 과정에서 모델 유틸리티 손실을 최소화하며, 복구 단계에서 삭제된 정보를 다시 학습하는 현상을 억제하는 통합 프레임워크이다. 핵심은 데이터‑프리 모델 인버전으로 만든 클래스별 가짜 샘플을 활용한 충돌‑인식 투영 그래디언트 상승과, 백본 고정·헤드 업데이트만 허용하는 복구 전략이다.

상세 분석

FedCARE는 연합 학습(Federated Learning, FL) 시스템이 GDPR 등 ‘잊혀질 권리’를 준수하도록 설계된 연합 데이터 삭제(Federated Unlearning, FU) 방법이다. 기존 FU는 (1) 높은 연산·통신 비용, (2) 전역 모델에 얽힌 클라이언트 특유 지식과 공유 지식이 혼합돼 삭제 시 전체 성능이 크게 저하되는 문제, (3) 삭제 후 남은 클라이언트들로 재학습할 경우 삭제된 정보를 다시 복원하는 ‘재학습’ 위험을 안고 있었다. FedCARE는 이 세 가지 문제를 각각 다음과 같이 해결한다.

1. 데이터‑프리 가짜 샘플 생성기

   • 서버는 전역 모델만을 이용해 클래스‑조건부 디코더 형태의 가벼운 생성기 G를 한 번 학습한다.
   • BN 대신 Group Normalization을 사용해 비동질적인 연합 데이터 분포에 강건하게 만든다.
   • 손실은 (i) 교차 엔트로피(클래스 일관성), (ii) 총변동(total variation) 정규화(고주파 잡음 억제), (iii) 다양성 정규화(모드 붕괴 방지)로 구성하고, 손실 스케일 차이를 보정하기 위해 초기 λ_tv 를 자동 조정한다.
   • 이렇게 만든 D_ref(가짜 샘플 집합)는 실제 데이터를 요구하지 않으면서도 전역 모델이 보유한 공유 지식의 대표성을 제공한다.

2. 충돌‑인식 투영 그래디언트 상승(Conflict‑Aware Projected Gradient Ascent)

   • 삭제 대상 클라이언트 u는 자신의 로컬 데이터 D_u에 대해 손실을 극대화(gradient ascent)하여 기여를 지우려 한다.
   • 그러나 무조건적인 상승은 전역 모델의 공유 파라미터를 손상시킬 위험이 있다. 따라서 “참조 손실 L_ref(θ)”을 정의하고, 이 손실이 증가하지 않도록 제약을 둔다.
   • L_ref은 앞서 만든 가짜 샘플 D_ref에 대한 손실이며, 첫 번째 차수 테일러 전개를 통해 ⟨g_ref, d⟩ ≤ 0 라는 선형 제약을 얻는다.
   • 실제 업데이트 방향 d는 g_tar(삭제 손실의 그래디언트)를 g_ref에 정사영(projection)하여 충돌 성분을 최소화한다. 수식적으로는 d = g_tar − max(0, ⟨g_tar, g_ref⟩ /‖g_ref‖²)·g_ref 로 구현된다.
   • 이 과정은 미니배치 기반으로 매 스텝마다 수행되며, 추가 연산은 내적과 스칼라 연산에 국한돼 오버헤드가 매우 낮다.

3. 재학습‑저항 복구 전략

   • 삭제 후 모델 성능을 회복하기 위해 남은 클라이언트들을 다시 학습시키지만, 여기서 “롤백”을 방지한다.
   • 각 클라이언트는 피처 추출기(Backbone)를 고정하고, 분류기 헤드만 업데이트한다. 이는 공유된 저수준 특징을 유지하면서 고수준 결정 경계만 조정하도록 만든다.
   • 서버는 클라이언트들의 업데이트를 집계할 때, “재학습 방향”과 “삭제 방향” 사이의 내적을 검사해 재학습이 삭제된 파라미터를 복원하려는 경우 해당 성분을 제거한다(Projection & Remove).
   • 결과적으로 복구 단계는 모델 유틸리티를 회복하되, 이미 삭제된 정보가 다시 모델에 흡수되는 것을 억제한다.

4. 다중 수준 지원 및 효율성

   • 클라이언트 수준, 샘플 수준, 클래스 수준 모두 동일한 프레임워크 내에서 구현 가능하다. 클래스 수준 삭제 시 D_ref에서 해당 클래스를 제외하고, 샘플 수준 삭제 시 해당 샘플만을 대상으로 g_tar를 계산한다.
   • 실험 결과, FedCARE는 기존 저장‑기반(예: MoDe)이나 무조건적 가중치 부정(예: NoT) 방식에 비해 연산·통신 비용이 30‑50% 감소하고, 정확도 손실이 1‑2% 이하로 억제되었으며, 재학습 후 복구된 모델이 삭제 전 모델과의 유사도(예: L2 거리)에서도 우수함을 보였다.

핵심 인사이트

• 연합 환경에서 실제 데이터를 사용할 수 없을 때, 모델 인버전 기반 가짜 샘플이 “유틸리티 기준”을 제공한다는 점이 혁신적이다.
• 그래디언트 상승을 단순히 적용하는 것이 아니라, 공유 지식과의 내적을 최소화하는 투영 기법을 도입함으로써 “지식 얽힘” 문제를 수학적으로 해결한다.
• 복구 단계에서 백본을 고정하고 서버‑측 업데이트를 필터링하는 두 단계 방어는, 삭제된 정보를 무심코 다시 학습하는 ‘재학습 위험’을 실질적으로 차단한다.