유전 알고리즘 기반 컬러 이미지 스테가노그래피: RS 분석 방어와 품질 최적화

초록

본 논문은 LSB 삽입 방식으로 만든 컬러 스테가노 이미지가 RS 스테가노 분석에 취약한 문제를 해결하고자, 이미지 블록을 유전 알고리즘(GA)으로 진화시켜 통계적 탐지를 최소화하면서 PSNR·SSIM 등 시각 품질을 유지하는 새로운 방법을 제안한다.

상세 분석

이 연구는 스테가노그래피와 스테가노분석(특히 RS 분석) 사이의 “군비 경쟁”을 기술적 진화 메커니즘으로 접근한다는 점에서 의미가 크다. 기존 LSB 기반 은닉은 구현이 간단하지만, 픽셀의 주변 상관관계를 변형시켜 RS 분석이 감지하는 R‑group, S‑group 비율을 변동시킨다. 저자는 이러한 변화를 최소화하기 위해 스테가 이미지 전체를 일정 크기의 블록(예: 8×8)으로 분할하고, 각 블록 내에서 픽셀의 LSB를 교환·반전하는 변형을 유전 알고리즘의 염색체로 정의한다.

염색체는 블록‑단위 변형 매핑(예: 0/1 전환, 인접 블록 교환)으로 구성되며, 적합도 함수는 두 가지 목표를 동시에 고려한다. 첫 번째는 RS 탐지 저항성으로, R‑group과 S‑group 비율 차이(|R‑S|)를 최소화하는 것이며, 두 번째는 시각 품질 유지로 PSNR 혹은 SSIM 값을 최대화한다. 다중 목표 최적화 문제를 단일 적합도로 결합하기 위해 가중치 기반 선형 결합 혹은 파레토 프론티어 방식을 채택한다.

선택 연산은 토너먼트 혹은 룰렛 휠 방식을 사용하고, 교차는 블록‑레벨 교차(한 블록 전체를 교환)와 비트‑레벨 교차를 혼합한다. 변이 연산은 무작위 LSB 반전 혹은 블록 내 픽셀 순서 재배열을 통해 다양성을 확보한다. 이 과정은 일정 세대 수(예: 100~200) 동안 진행되며, 매 세대마다 적합도 평가 후 최적 해를 저장한다.

실험에서는 표준 컬러 이미지(‘Lena’, ‘Baboon’, ‘Peppers’)에 0.5~1.0 % 비트율로 메시지를 삽입한 뒤, GA 전후의 RS 검출률과 PSNR/SSIM을 비교한다. 결과는 GA 적용 후 RS 탐지 성공률이 70 % 이상 감소하고, PSNR은 40 dB 이상, SSIM은 0.98 이상 유지되는 것으로 나타난다. 이는 기존 회색조 전용 방어 기법을 컬러 이미지에 그대로 적용했을 때보다 현저히 높은 보안성과 품질을 제공한다는 것을 의미한다.

하지만 몇 가지 한계도 존재한다. 첫째, GA 연산이 이미지 크기와 블록 수에 비례해 계산 비용이 급증한다는 점이다. 실시간 혹은 모바일 환경에서는 최적화가 필요하다. 둘째, 적합도 함수에 사용된 가중치가 실험마다 임의로 설정되었으며, 최적 가중치 탐색이 자동화되지 않았다. 셋째, RS 외의 다른 통계 기반 스테가노분석(예: χ², SPA)에는 별도 검증이 부족하다. 향후 연구에서는 하드웨어 가속, 적응형 가중치 학습, 다중 스테가노분석 방어를 통합한 프레임워크가 요구된다.