임베디드 시스템용 혼돈 기반 고속 이미지 암호의 취약점 분석

초록

본 논문은 Lin 등(2023)이 제안한 연속 3차 초하이퍼볼릭 사인 혼돈 시스템 기반 이미지 암호화 알고리즘을 선택 평문, 차분, 알려진 평문 공격에 대해 검증한다. 분석 결과, 차분 공격에서는 단 두 장의 선택 평문만으로 전체 등가키를 복원할 수 있으며, 선택 평문 공격에서는 3×400 크기의 이미지 한 장만으로도 정렬 알고리즘의 안정성을 이용해 시스템을 무력화할 수 있음을 보였다. 따라서 해당 암호는 임베디드 환경에서의 실시간 요구를 만족하더라도 보안성에서는 부적합하다는 결론에 도달한다.

상세 분석

논문은 먼저 Lin et al.이 제안한 암호화 구조를 상세히 재현한다. 핵심은 연속적인 3차 초하이퍼볼릭 사인(​sinh​) 방정식으로 생성된 혼돈 시퀀스를 이용해 픽셀값을 순차적으로 치환하고, 이후 정렬(sort) 연산을 적용해 이미지 전체를 재배열하는 방식이다. 이러한 설계는 혼돈 시퀀스의 높은 민감도와 정렬 연산의 낮은 연산 복잡도를 결합해 임베디드 시스템, 특히 UAV와 같은 실시간 제어 환경에서의 빠른 암호·복호화를 목표로 한다.

하지만 저자는 이 구조가 몇 가지 근본적인 약점을 가지고 있음을 지적한다. 첫째, 혼돈 시퀀스는 초기값(키) 외에 시스템 파라미터에 크게 의존하지만, 실제 구현에서는 파라미터가 고정되고 초기값만이 변한다. 따라서 동일한 파라미터 하에서 생성되는 시퀀스는 선형적인 관계를 유지한다는 점이 차분 공격의 출발점이 된다. 논문은 두 개의 선택 평문 P₁, P₂를 각각 0과 255로 채운 이미지로 설정하고, 암호문 C₁, C₂를 얻는다. 두 암호문 사이의 차분 ΔC = C₁ ⊕ C₂는 바로 혼돈 시퀀스의 차분 ΔS와 정렬 전후의 위치 변화를 반영한다. 정렬 알고리즘이 안정적(stable)이라는 가정 하에, 동일한 값에 대한 상대적 순서는 보존되므로 ΔC를 역추적하면 ΔS를 정확히 복원할 수 있다. 이렇게 복원된 ΔS와 하나의 평문‑암호문 쌍을 이용하면 전체 등가키(초기값 + 정렬 매핑)를 구할 수 있다.

둘째, 선택 평문 공격에서는 정렬 단계의 안정성을 이용한다. 3×400 크기의 이미지 한 장을 “증가 순서”로 채워 넣으면, 정렬 전후의 인덱스 매핑이 거의 일정하게 유지된다. 따라서 암호문에서 관측되는 픽셀 위치 변화를 직접적으로 초기 혼돈 시퀀스와 연결시킬 수 있다. 이때 필요한 연산은 단순히 XOR과 인덱스 역추적이며, 복잡한 통계 분석 없이도 전체 키를 복원한다.

마지막으로 알려진 평문 공격에 대해서도 논문은 기존 연구와 동일한 방식으로 키 스트림을 추정할 수 있음을 보여준다. 실제 실험에서는 다양한 이미지와 파라미터 조합에 대해 100% 성공률을 기록했으며, 연산 시간은 수십 밀리초 수준에 불과했다. 이는 임베디드 환경에서 요구되는 “고속”이라는 목표는 달성했지만, “보안성”이라는 기본 전제는 크게 위배된다는 점을 명확히 한다.

요약하면, 혼돈 시퀀스와 정렬 단계가 각각 독립적으로 취약점을 제공하며, 두 단계가 결합된 구조가 오히려 공격 표면을 확대한다. 특히 정렬 알고리즘이 안정적이라는 전제는 실무에서 흔히 사용되는 퀵소트, 병합정렬 등과는 다르게 설계된 경우가 아니라면 대부분 만족한다. 따라서 이 암호화 스킴은 UAV와 같은 제한된 자원 환경에서 “빠른” 암호화를 원한다면 다른 보안 메커니즘(예: 경량 블록 암호)과 결합하거나, 정렬 단계에 비선형성을 도입하는 등 구조적 보강이 필수적이다.