빠른 프라이버시 보호 연합 학습을 위한 선택적 동형암호 접근법

초록

본 논문은 의료 영상 분야의 연합 학습(Federated Learning)에서 완전 동형암호(FHE)의 높은 연산 비용을 피하면서도 데이터 유출 위험을 최소화하기 위해, 모델 파라미터 중 고위험 부분만을 선택적으로 암호화하고 나머지는 차등 프라이버시와 비트 스크램블링으로 보호하는 FAS(Fast and Secure) 방식을 제안한다. 실험 결과, 기존 FHE 대비 최대 90 %의 속도 향상과 경쟁 기법 대비 1.5배 빠른 학습 시간을 달성했으며, 모델 역전 공격에 대한 방어력도 동등하게 유지한다.

상세 분석

본 연구는 연합 학습 환경에서 보안과 효율성 사이의 근본적인 트레이드오프를 해결하고자 한다. 기존의 완전 동형암호(FHE)는 이론적으로 가장 강력한 보호를 제공하지만, 부동소수점 연산과 부스트래핑(bootstrapping) 과정에서 발생하는 수천 배 수준의 연산 지연은 실시간 의료 진단과 같은 지연 민감 애플리케이션에 부적합하다. 반면, 차등 프라이버시(DP)와 같은 경량 기법은 연산 비용이 낮지만, 노이즈 주입으로 인한 모델 정확도 저하가 심각할 수 있다.

FAS는 세 가지 보안 메커니즘을 계층적으로 결합한다. 첫 번째 단계는 선택적 동형암호(Selective Homomorphic Encryption) 로, 전체 파라미터 중 사전 정의된 비율(예: 10 %)만을 균일하게 선택해 HE 스킴(예: CKKS)으로 암호화한다. 이때 암호화된 파라미터는 서버가 복호화 없이 집계(Weighted Averaging) 가능하도록 설계되어, 기존 FHE와 동일한 집계 정확성을 유지한다. 두 번째 단계는 차등 노이즈 삽입 으로, 암호화되지 않은 파라미터에 라플라스(Laplace) 분포 기반 노이즈를 추가한다. 노이즈 규모는 ε-차등 프라이버시 예산에 따라 동적으로 조정되며, 저감된 민감도 파라미터에만 적용함으로써 전체 모델 성능 손실을 최소화한다. 세 번째 단계는 비트 스크램블링(Bitwise Scrambling) 으로, 경량 암호키를 이용해 비암호화 파라미터의 비트를 퍼뮤테이션한다. 이는 통계적 패턴을 파괴해 그래디언트 역전 공격 및 멤버십 추론 공격에 대한 저항성을 강화한다.

실험 설계는 Flower 프레임워크 위에 11대 물리 머신 클러스터를 구축하고, Kidney, Lung, COVID-19 등 의료 영상 데이터셋에 MobileNetV2, EfficientNet-B0 등 다양한 모델을 적용하였다. 주요 성능 지표는 학습 시간, 암호화 오버헤드, MSSIM(구조적 유사도) 및 VIFP(시각적 정보 손실)이다. 결과는 FAS가 전체 모델에 FHE를 적용했을 때 대비 평균 90 %의 연산 시간 절감, FedML‑HE와 MaskCrypt 대비 1.5배 빠른 학습을 보였으며, MSSIM 58 %와 VIFP 0.73 등에서 기존 FHE와 동등하거나 약간 우수한 보안 수준을 유지함을 확인했다.

또한, 사전 학습 단계가 필요 없는 구조 덕분에 초기 라운드부터 일관된 보안 정책을 적용할 수 있었으며, 마스크 재계산 비용이 사라져 전체 파이프라인이 단순화되었다. 한계점으로는 선택적 암호화 비율과 노이즈 예산을 어떻게 최적화할지에 대한 자동화된 방법론이 부족하다는 점이며, 향후 연구에서는 메타러닝 기반 민감도 추정 및 적응형 비트 스크램블링 키 관리가 필요하다.