신뢰성 높은 적대적 정화 방법

초록

PurSAMERE는 점성(Sharpness‑Aware) 최소화를 이용해 기대 재구성 오차를 최소화함으로써, 적대적 입력을 데이터 분포의 고밀도 지역으로 이동시키는 결정론적 정화 기법이다. 스코어 기반 생성 모델을 학습해 노이즈가 섞인 데이터의 조건부 기대값을 추정하고, 정화 과정에서 고정된 몬테카를로 샘플을 사용해 완전한 결정론성을 확보한다. 이론적으로는 노이즈 수준이 작아질수록 정화된 샘플이 가우시안 스무딩된 밀도 함수의 지역 최대점에 수렴함을 보이며, 실험에서는 강력한 백색‑박스 공격에 대해 기존 최첨단 방법보다 현저히 높은 견고성을 입증한다.

상세 분석

본 논문은 적대적 공격에 대한 방어 메커니즘으로서 “정화(purification)” 접근법을 선택하고, 기존의 확률적 정화가 공격자에게 랜덤성 정보를 제공하면 효과가 급격히 감소한다는 점을 지적한다. 이를 극복하기 위해 저자들은 두 가지 핵심 아이디어를 결합한다. 첫째, 스코어 기반 생성 모델을 이용해 데이터 분포의 구조를 학습하고, 노이즈가 섞인 입력에 대한 기대 재구성 오차 (R(x;\sigma)) 를 정의한다. 이 오차는 Tweedie 공식에 의해 조건부 평균 (E