보안 FSM 기반 산술 부호화

초록

본 논문은 유한 상태 산술 부호(FSAC)를 기반으로, 상태 전이 중에 의사난수키에 따라 무작위 점프를 삽입하고 각 상태마다 프리픽스 자유인 허프만 코드를 부여함으로써 암호화와 압축을 동시에 구현하는 방법을 제안한다. 허프만 코드 출력 교환과 키 민감도·평문 민감도 테스트를 통해 이미지 암호 시스템에서 실시간 전송이 가능한 높은 보안성과 압축 효율을 입증한다.

상세 요약

FSAC는 전통적인 산술 부호화와 달리 유한 상태 기계(FSM) 구조를 이용해 입력 심볼을 상태 전이와 연관시킨다. 이 특성을 활용하면 인코딩 과정 중에 임의의 상태로 “점프”하는 것이 가능해지며, 점프 위치와 전이 규칙을 대칭키 기반 의사난수 생성기(PNRG)와 연동시켜 암호화 효과를 얻는다. 논문은 각 상태마다 별도의 허프만 트리를 설계함으로써, 점프가 발생해도 현재 상태에 맞는 프리픽스 자유 코드를 사용해 디코더가 정확히 복구될 수 있도록 설계하였다. 허프만 코드는 프리픽스 자유이기 때문에, 수신자는 현재 상태의 트리를 알고 있으면 비트 스트림을 순차적으로 읽으며 상태를 추적할 수 있다.

보안 강화를 위해 저자는 두 번째 난수성 레이어를 도입한다. 구체적으로 각 상태의 허프만 코드 출력 순서를 키에 따라 동적으로 교환(swap)한다. 이는 동일한 심볼이라도 상태와 키에 따라 서로 다른 비트 패턴을 생성하게 하여 통계적 분석에 대한 저항성을 높인다. 키 공간 분석 결과, 키 길이가 충분히 길 경우(예: 128비트) 전체 전이 테이블과 교환 매핑을 모두 포함한 키 공간이 2^128을 훨씬 초과한다는 점을 강조한다.

실험에서는 표준 테스트 이미지(‘Lena’, ‘Baboon’ 등)를 사용해 압축률, PSNR, 엔트로피, NIST 난수 테스트 등을 수행하였다. 결과는 기존 FSAC 대비 압축 효율은 2~3% 정도 감소했지만, 암호화 강도는 크게 향상되었으며, 키와 평문에 대한 민감도 테스트에서는 1비트 차이만으로도 완전히 다른 암호문을 생성함을 확인했다. 또한 실시간 전송 시 요구되는 연산 복잡도는 허프만 트리 탐색과 상태 전이 연산 정도에 불과해, 임베디드 시스템에서도 적용 가능함을 보였다.

이와 같이 본 논문은 FSM 기반 산술 부호화에 허프만 코드와 동적 출력 교환을 결합함으로써, 압축과 암호화를 동시에 만족하는 새로운 프레임워크를 제시한다. 특히 프리픽스 자유 특성을 이용한 상태 추적 메커니즘은 전통적인 스트림 암호와 차별화된 보안 구조를 제공한다는 점에서 학술적·실용적 의의가 크다.