일반화된 리즈넬 암호의 대칭성 및 대체군 연구

초록

본 논문은 유한체 GF(p^k) 위에서 정의되는 리즈넬‑유사 라운드 함수들의 군 구조를 분석한다. p가 2인 경우 기존 연구와 달리, p≥2 전반에 대해 라운드 함수 집합이 대칭군(S_n) 혹은 교대군(A_n)을 생성함을 보인다. 또한, 이러한 결과가 다중 암호화 시 보안 강화에 어떻게 활용될 수 있는지를 논의한다.

상세 분석

논문은 먼저 AES(또는 리즈넬)와 유사한 구조를 갖는 일반화된 블록 암호를 정의한다. 상태 공간은 GF(p^k) 위의 m×n 행렬이며, 각 라운드 함수는 (1) 바이트(또는 원소) 수준의 비선형 치환 S‑Box, (2) 행·열 순환 이동, (3) 선형 혼합 변환, (4) 라운드 키 XOR의 네 단계 연산으로 구성된다. 기존 연구(Sparr·Wernsdorf, 2008)는 p=2, 즉 GF(2^k) 에서 이러한 라운드 함수들이 교대군 A_N 을 생성한다는 것을 증명했으며, 이는 전체 암호가 거의 모든 가능한 순열을 구현할 수 있음을 의미한다.

본 논문은 p≥2 전반에 대해 동일한 접근법을 확장한다. 핵심 아이디어는 라운드 함수들의 비선형성(특히 S‑Box)의 차수가 p 와 연관된 다항식 형태를 갖는다는 점이다. 저자는 S‑Box가 전사 함수이면서 동시에 p‑정칙(p‑regular)인 경우, 즉 x↦x^e (e와 p^k‑1이 서로소) 형태를 만족하면 라운드 함수가 전체 상태 공간에 대해 짝수(또는 홀수) 퍼뮤테이션을 생성한다는 레마를 제시한다.

그 다음, 선형 혼합 변환이 전치 행렬 M 을 통해 전체 행렬을 가역적으로 변환함을 보이며, M의 행렬식이 0이 아니면 모든 비트(또는 원소) 위치가 서로 연결된다. 이러한 연결성은 라운드 키 추가 연산과 결합될 때, 라운드 함수 집합이 전이 그래프 상에서 완전 연결(complete)임을 보장한다.

그 결과, 라운드 함수들의 생성군 G 은 다음 두 경우 중 하나가 된다. (i) G = S_N (전 대칭군) – 라운드 함수가 홀수 퍼뮤테이션을 포함할 때; (ii) G = A_N (교대군) – 모든 라운드 함수가 짝수 퍼뮤테이션만을 생성할 때. 저자는 구체적인 조건을 수학적으로 기술한다. 예를 들어, p가 홀수이면서 e 가 짝수이면 S‑Box가 짝수 퍼뮤테이션을 만들고, 따라서 G = A_N 이 된다. 반대로, p=2이거나 e 가 홀수이면 홀수 퍼뮤테이션이 존재해 G = S_N 이 된다.

마지막으로, 이러한 군 구조가 다중 암호화(ME) 시나리오에 미치는 영향을 논한다. 만약 단일 라운드 함수 집합이 교대군에 국한된다면, 두 번 이상 연속 적용해도 전체 군이 확대되지 않는다. 그러나 조건을 만족해 대칭군을 생성하면, 두 번 이상의 순차적 암호화는 실질적으로 새로운 퍼뮤테이션을 도입해 공격 공간을 기하급수적으로 늘린다. 따라서 AES가 실용적으로 취약해질 경우, 일반화된 파라미터(p, k, e 등)를 조정해 대칭군을 보장하는 다중 암호화를 적용함으로써 보안을 강화할 수 있다.

이와 같이 논문은 리즈넬‑유사 암호의 군 이론적 특성을 p≥2 전반에 걸쳐 일반화하고, 실용적인 보안 설계에 직접적인 지침을 제공한다.