적대적 학습을 이용한 동기화 스테가노그래피 검출 및 복구

초록

본 논문은 이미지 스테가노그래피를 위해 생성기·판별기·스테가노분석기 세 모듈을 게임 형태로 결합한 적대적 학습 프레임워크를 제안한다. 생성기는 비밀 메시지를 이미지에 삽입하고, 판별기는 삽입된 메시지를 복원하며, 스테가노분석기는 해당 이미지가 은밀한 정보를 포함했는지를 판별한다. 무지도 학습과 지도학습을 병행함으로써 강인한 은닉·복구 메커니즘과 높은 탐지 정확도를 동시에 달성한다. CelebA와 BossBase 데이터셋 실험을 통해 0.4 bpp까지 PSNR 저하 없이 90% 이상의 복원 성공률과 높은 탐지 정확도를 입증하였다.

상세 분석

본 연구는 기존 스테가노그래피와 스테가노분석을 별도 혹은 순차적으로 다루던 접근법과 달리, 세 개의 신경망(Generator, Discriminator, Steganalyzer)을 하나의 적대적 게임으로 통합한다는 점에서 혁신적이다. Generator는 커버 이미지와 임의의 비밀 메시지를 입력받아, 메시지를 이미지에 은닉한 스테가노그래픽 이미지(‘stego’)를 생성한다. 여기서 사용된 네트워크 구조는 Fully‑Connected 레이어 → 4개의 Fractionally‑Strided Convolution 레이어 → Hyperbolic Tangent 활성화 함수로 구성되어, 이미지 전역에 걸친 미세 조정을 가능하게 한다.

Discriminator는 전통적인 GAN의 판별기 역할을 넘어, 스테가노그래픽 이미지에서 비밀 메시지를 복원하는 디코딩 모듈을 포함한다. 4개의 Convolution 레이어와 Fully‑Connected 레이어 뒤에 특수 디코딩 함수를 삽입함으로써, 이미지 픽셀 변형을 역추적해 원본 비트 스트림을 재구성한다. 이 과정에서 이미지 품질을 유지하기 위한 L2 손실(커버와 스테가 이미지 간 유클리드 거리)과 메시지 복원 정확도를 동시에 최적화한다.

Steganalyzer는 스테가노그래픽 이미지와 커버 이미지를 구분하는 이진 분류기이다. 고역통과 필터를 사전 적용한 뒤 4개의 Convolution 레이어와 다중 Fully‑Connected 레이어를 거쳐 로지스틱 회귀 기반의 Binary‑Cross‑Entropy 손실을 최소화한다. 이는 기존의 통계 기반 스테가노분석기와 달리, 학습된 특징을 통해 은닉된 패턴을 자동으로 탐지한다.

학습 목표는 세 손실 함수를 가중합으로 정의한다. Generator 손실 L_G는 (1) Discriminator가 메시지를 정확히 복원하도록 하는 복원 손실, (2) Steganalyzer가 스테가 이미지를 커버와 구분하지 못하도록 하는 탐지 회피 손실, (3) 이미지 품질을 보존하는 L2 손실을 포함한다. Discriminator 손실 L_D는 복원 정확도와 이미지 진위 판별을 동시에 고려한 정규화된 L2 손실이며, Steganalyzer 손실 L_S는 표준 Binary‑Cross‑Entropy이다. 가중치 λ₁, λ₂, λ₃는 각각 0.1~1 사이에서 실험적으로 튜닝되었다.

학습은 교대로 진행된다. 각 미니배치마다 Generator, Discriminator, Steganalyzer 중 하나씩 업데이트함으로써, 서로의 파라미터 변화에 즉각적으로 적응한다. 이는 GAN에서 흔히 발생하는 모드 붕괴와 불안정성을 완화시킨다. 또한, 무지도 학습 단계에서는 Discriminator와 Generator만을 사용해 스테가노그래픽 이미지의 품질과 복원 가능성을 높이고, 이후 지도학습 단계에서 Steganalyzer를 추가해 탐지 성능을 강화한다.

실험에서는 64×64 픽셀 해상도의 CelebA 얼굴 이미지와 BossBase 회색조 이미지 두 데이터셋을 사용하였다. 임베딩 비율은 0.1 bpp부터 0.4 bpp까지 다양하게 설정했으며, PSNR은 0.1 bpp에서 평균 38 dB, 0.4 bpp에서도 34 dB 이상을 유지하였다. Discriminator는 800 step 이후 0.4 bpp에서 90% 이상의 복원 성공률을 보였고, Steganalyzer는 1,000 step 이후 95% 이상의 정확도로 스테가 이미지를 구분했다. 특히, 낮은 임베딩 비율(0.1 bpp)에서도 시각적 왜곡이 거의 없으며, 복원률과 탐지율 모두 실용적인 수준을 유지한다는 점이 주목할 만하다.

본 논문의 주요 기여는 (1) 스테가노그래피와 스테가노분석을 하나의 적대적 프레임워크로 통합함으로써 양쪽 기술을 동시에 최적화, (2) 무지도·지도학습을 혼합한 두 단계 학습 전략을 제시, (3) Discriminator를 복호화 장치로 활용해 메시지 복원을 실시간으로 가능하게 함으로써 기존 암호화와 유사한 보안성을 제공한다는 점이다. 향후 연구에서는 고해상도 이미지, 비디오 스트림, 그리고 비정형 데이터(예: 오디오)로 확장하고, 적대적 공격에 대한 견고성을 강화하기 위한 정규화 기법을 추가로 탐색할 필요가 있다.