세션 기반 비트 레벨 암호화 기법 PCT 대용량 파일 보안 혁신

초록

본 논문은 파일 크기에 따라 동적으로 블록을 구성하고, 비트 단위로 위치를 이동·반전시킨 뒤 키의 SHA‑512 해시와 XOR 연산을 수행하는 세션 기반 대칭키 암호화 기법인 Permutated Cipher Technique(PCT)를 제안한다. 제안 기법은 기존 Triple‑DES와 AES에 비해 대용량 파일에서 높은 처리 속도와 유사한 암호학적 특성(아발란체, 엄격 아발란체, 비트 독립성)을 보이며, 키 생성 과정에 파일 크기의 이진 표현을 활용한다.

상세 분석

PCT는 크게 키 생성, 암호화, 복호화 세 단계로 구성된다. 키 생성 단계에서는 입력 파일의 전체 바이트 수를 이진수 배열에 저장하고, 배열의 두 인덱스(mH, mL)를 무작위로 선택한다. 선택된 인덱스의 값을 조정하면서 “x·2^(mH‑mL)” 형태의 연산을 반복하고, 최종적으로 인덱스 값을 블록 길이와 스킵 비트 수(NBSk)로 변환한다. 이 과정은 파일 크기에 비례해 키 공간이 확대되므로 이론적으로 키 충돌 가능성을 낮춘다. 그러나 파일 크기 자체가 키 생성의 기본 입력이 되므로, 동일한 크기의 파일에 대해 키가 유사하게 생성될 위험이 존재한다. 또한 RFC 1750 기반의 SecureRandom을 사용한다고 주장하지만, 실제 구현 상세가 누락돼 난수의 품질을 검증하기 어렵다.

암호화 단계는 블록 단위(2^n 바이트)로 진행된다. 먼저 블록 내 홀수 위치 비트를 전부 반전하고, 짝수 위치 비트만을 NBSk만큼 건너뛰며 새로운 위치에 복사한다. 이때 비트 이동은 단순한 OR 연산으로 수행되며, 비트가 겹치는 경우 기존 값이 손실될 가능성이 있다. 비트 이동 후 전체 블록에 대해 키의 SHA‑512 해시와 XOR 연산을 수행함으로써 혼돈(confusion)과 확산(diffusion)을 강화한다. XOR 연산은 키 자체가 아닌 해시값을 사용하므로 키 자체가 노출되지 않지만, 해시값이 고정된 경우 동일 블록에 대해 동일한 변환이 적용돼 패턴 분석에 취약할 수 있다.

복호화는 암호화와 역순으로 진행된다. XOR 연산을 먼저 역연산하고, 짝수 비트를 역방향으로 NBSk만큼 이동한 뒤, 홀수 비트를 다시 반전한다. 이 과정이 정확히 대칭을 이루려면 NBSk와 블록 크기가 정확히 일치해야 하며, 구현 오류가 발생하면 복호화 실패가 발생한다. 논문에서는 MaxIter, eIter, dIter 등 반복 횟수를 언급하지만, 실제 알고리즘에 어떻게 적용되는지는 명확히 설명되지 않는다.

성능 평가에서는 20개의 파일(330 B59.7 MB)을 대상으로 암호화·복호화 시간, 아발란체·엄격 아발란체·비트 독립성, 카이제곱 검정을 수행했다. 결과는 PCT가 작은 파일에서는 TDES와 비슷하거나 다소 느리지만, 파일이 10 MB 이상일 때는 AES와 비슷하거나 더 빠른 속도를 보였다. 아발란체와 엄격 아발란체 값은 0.991.00에 근접해 AES와 동등한 확산 효과를 나타냈으며, 비트 독립성 지표는 파일 종류에 따라 차이가 있었지만 전반적으로 0.9 이상을 유지했다. 카이제곱 검증에서는 PCT가 TDES·AES와 비슷한 비동질성을 보여, 암호문이 원문과 통계적으로 구별되지 않음을 시사한다.

하지만 논문에는 몇 가지 한계가 있다. 첫째, 키 생성에 파일 크기 이진값을 직접 사용함으로써 동일 파일 크기에서 키가 유사해질 가능성이 있다. 둘째, 비트 이동 로직이 단순히 “skip NBSk” 방식이므로, NBSk가 고정되면 특정 패턴이 반복될 위험이 있다. 셋째, 보안 분석이 실험적 통계에 국한돼 차분 공격, 선택 평문 공격 등 전통적인 암호학적 공격에 대한 정량적 평가가 부족하다. 넷째, 구현 상세(예: 패딩 방식, 블록 정렬, 메모리 사용량)가 누락돼 실제 시스템에 적용할 때의 비용을 추정하기 어렵다. 마지막으로 SHA‑512 해시와 XOR 연산만으로 충분한 혼돈을 제공하는지에 대한 이론적 근거가 부족하다.

종합적으로 PCT는 비트 레벨에서의 간단한 변환과 SHA‑512 기반 혼합을 통해 대용량 파일에 대해 경쟁력 있는 처리 속도와 통계적 보안 특성을 제공한다는 점에서 흥미로운 시도이다. 그러나 실용적인 암호 시스템으로 채택하기 위해서는 키 다양성 확보, 변환 함수의 비선형성 강화, 그리고 표준 암호학적 보안 증명(예: IND‑CPA, IND‑CCA) 등이 추가로 요구된다.