시각화 기반 적대적 샘플 생성 도구 Adversarial Playground

초록

**
본 논문은 TensorFlow 기반의 웹 애플리케이션인 Adversarial‑Playground을 소개한다. 사용자는 클라이언트 화면에서 공격 파라미터를 조정하고, 서버가 실시간으로 MNIST 모델에 대한 적대적 예제를 생성한다. 저자는 기존 Jacobian Saliency Map Attack(JSMA)의 탐색 비용을 절감한 빠른 변형을 제안하고, 이미지 자체가 아니라 픽셀 행렬과 클래스 확률만을 전송함으로써 네트워크 대역폭과 응답 시간을 최소화하였다.

**

상세 분석

**
Adversarial‑Playground은 클라이언트‑서버 구조를 채택해 시각화와 연산을 명확히 분리한다. 서버는 TensorFlow와 GPU를 활용해 사전 학습된 CNN(주로 MNIST) 모델에 대해 선택된 공격 알고리즘을 실행하고, 결과 이미지와 각 클래스에 대한 확률 벡터를 JSON 형태로 반환한다. 클라이언트는 Plotly.js를 이용해 28×28 픽셀 행렬을 즉시 렌더링하고, 바 차트로 확률 분포를 시각화한다. 이 설계는 이미지 파일을 전송하지 않음으로써 전송량을 20 KB 수준으로 축소하고, 디스크 I/O와 이미지 인코딩 오버헤드를 제거한다.

핵심 기술적 기여는 두 가지이다. 첫째, 기존 JSMA가 모든 픽셀 쌍을 완전 탐색해 가장 큰 사전 영향도를 가진 두 픽셀을 선택하는데 비해, 저자는 히스토그램 기반의 휴리스틱을 도입해 후보 집합을 크게 제한한다. 구체적으로, 각 픽셀의 그라디언트 부호와 크기를 정렬하고, 상위 k 개의 픽셀만을 조합 대상으로 삼는다. 이 과정은 O(N log N) 정도의 복잡도로 감소하며, 실험 결과 원본 JSMA와 동일한 성공률을 유지하면서 평균 실행 시간이 약 45 % 감소하였다.

둘째, 전송 최적화 전략이다. 서버는 이미지 데이터를 PNG 등 압축 포맷으로 전송하지 않고, 0~255 정수값으로 구성된 2차원 배열과 10차원 확률 벡터만을 전송한다. 클라이언트는 이 데이터를 받아 Canvas에 직접 픽셀을 그리거나 Plotly.js의 heatmap 형태로 표시한다. 이 방식은 특히 모바일이나 저속 네트워크 환경에서 사용자 경험을 크게 향상시킨다.

또한, 시스템은 공격 종류(목표 지정 vs 비목표 지정)와 사용되는 노름(L0, L2, L∞)을 UI에서 선택하도록 설계돼 있다. L0 기반 JSMA, L2 기반 L‑BFGS, L∞ 기반 Fast Gradient Sign Method(FGSM) 등을 구현했으며, 각각의 파라미터(예: ε, 변형 횟수)를 슬라이더로 조정할 수 있다. 이러한 인터랙티브한 설정은 교육용 도구로서의 가치를 높인다.

전체적으로 논문은 구현 세부사항(Flask 서버, AJAX 통신, Plotly.js 시각화)과 실험 결과(성공률, 실행 시간, 전송량)를 정량적으로 제시한다. 제안된 빠른 JSMA는 기존 구현 대비 1.9배 빠른 평균 처리 시간을 보였으며, 성공률 차이는 0.5 % 이하로 미미했다. 전송량은 평균 1.2 KB(픽셀 행렬)와 0.1 KB(확률 벡터) 수준으로, 기존 이미지 전송 방식에 비해 95 % 이상 절감되었다.

**