양자화 딥러닝 모델의 신뢰성·보안 동시 강화 프레임워크 RESQ

본 논문은 안전‑중요 응용 분야에서 엣지 디바이스에 배치되는 양자화 딥러닝 모델이 직면하는 두 가지 주요 위협, 즉 적대적 입력 공격과 메모리 비트플립 결함을 동시에 완화하기 위한 통합 프레임워크 RESQ를 제안한다. 기존 연구들은 이 두 위협을 별도로 다루어 왔으며, 각각에 특화된 방어 기법이 존재하지만, 서로 간의 상호작용을 고려하지 않아 한쪽을 강화하면 다른 쪽이 약화되는 현상이 빈번히 보고되었다. 이를 해결하고자 저자는 4단계(실제로는 3단계 + 사전 준비) 파이프라인을 설계하였다. 1. **Stage 0 – Clean Training with Mixup** Mixup 데이터 증강을 활용해 입력 공간을 선형적으로 혼합함으로써 모델이 보다 부드러운 결정 경계를 학습하도록 유도한다. 이는 이후 단계에서 LSB 수준의 작은 변동에 대한 민감도를 낮추는 기반이 된다. 학습 과정은 표준 교차 엔트로피 손실과 함께 학습률, 배치 크기 등을 조정해 최적의 일반화 성능을 확보한다. 2. **Stage 1 – Adversarial Resilience (BPFC)** 입력 이미지의 최하위 k비트를 제거한 후 원본과 양자화된 입력 사이의 피처 일관성을 정규화하는 BPFC 손실을 도입한다. 구체적으로, 원본 입력 x와 LSB가 제거된 입력 x_q에 대해 사전‑노이즈를 추가하고, 두 입력에 대한 네트워크 출력의 차이를 L2 정규화한다. 전체 손실은 CE 손실과 λ·‖g(x)‑g(x_q)‖² 형태로 결합된다. 이 과정은 모델이 고차 비트에 의존하도록 만들며, 시각적으로는 무변화인 LSB 기반 적대적 공격에 대한 저항성을 크게 향상시킨다. 3. **Stage 2 – Fault‑Aware Fine‑Tuning** BPFC‑학습된 모델에서 각 레이어의 그래디언트 EMA를 계산해 중요 레이어 L_c를 식별하고 동결한다. 이는 적대적 강인성을 유지하기 위한 보호 메커니즘이다. 동결되지 않은 레이어에 대해서는 사전에 정의된 비트 오류율(BER) 하에 무작위 비트플립을 주입하고, 정상 가중치와 결함 가중치 사이의 출력 차이를 최소화하는 손실 L_fault = CE + λ·E_ŵ‖f(W,x)‑f(ŵ,x)‖²를 최적화한다. 이 단계는 결함에 취약한 파라미터가 결함 인식 능력을 학습하도록 하면서, 기존 적대적 방어 성능을 손상시키지 않는다. 4. **Stage 3 – Memory Protection (Quantization + TMR)** FOR TUNE을 변형해 비트폭 b를 자동 탐색한다. 각 후보 b에 대해 affine quantization을 적용하고, 정확도(a)와 신뢰성(r) 기준을 동시에 만족하는지 평가한다. 기준을 만족하면, 가장 중요한 비트(MSB)를 삼중모듈러 중복(TMR)으로 보호한다. 구체적으로, MSB를 3번 복제하고 다수결을 통해 복원함으로써 메모리 비트플립에 대한 내성을 강화한다. 이 과정은 부호 비트를 제거하고 비정수 형태로 가중치를 저장함으로써, 고비트 오류가 전체 가중치에 미치는 영향을 최소화한다. **실험 설정 및 결과** - **아키텍처**: ResNet‑18, VGG‑16, EfficientNet‑B0, Swin‑Tiny - **데이터셋**: CIFAR‑10, CIFAR‑100, GTSRB - **평가 지표**: 적대적 공격 저항성 (FGSM, MIM 등), 비트플립 결함 내성 (BER 10⁻⁴~10⁻³), 양자화 후 정확도 손실 RESQ를 적용한 모델은 기존 베이스라인 대비 적대적 공격 성공률을 평균 10.35% 감소시키고, 비트플립 오류에 대한 정확도 저하를 평균 12.47% 완화하였다. 특히, 결함 내성을 강화한 경우 적대적 공격에 대한 저항성이 자연스럽게 상승하는 비대칭 관계가 확인되었으며, 반대로 적대적 강인성만을 강화하면 결함 내성 향상이 제한적이었다. 모든 실험에서 양자화 후 최종 정확도는 0.5% 이내의 손실만을 보이며, 메모리 오버헤드는 MSB 보호 비율에 따라 10~20% 수준에 머물렀다. **주요 기여** - 적대적 공격과 하드웨어 결함 사이의 상호작용을 체계적으로 분석하고, 비대칭 트레이드오프를 규명하였다. - 단계별 목표가 충돌하지 않도록 레이어 동결 및 손실 설계 등 세밀한 조정을 통해 두 위협에 동시에 강인한 모델을 구현하였다. - 양자화와 MSB 중복을 결합한 메모리 보호 기법을 제안해, 엣지 디바이스에서의 실시간 추론에 필요한 메모리·연산 효율성을 유지하면서 신뢰성을 크게 향상시켰다. 결론적으로 RESQ는 양자화된 DNN을 안전‑중요 시스템에 배치할 때, 정확도·효율·보안·신뢰성이라는 네 축을 균형 있게 만족시키는 실용적인 솔루션으로 평가된다.