실용적 일방향 해시를 위한 GF(2) 비가역 행렬 클래스

초록

본 논문은 GF(2) 위에서 한 행에 1이 하나씩, 열에도 1이 하나씩만 존재하는 순열 행렬을 비가역으로 간주하고, 이를 Hill 암호의 곱셈 행렬로 활용해 일방향 해시 알고리즘을 설계하는 방안을 제시한다. 비가역성, 생성 용이성 및 해시용 단방향성 확보를 목표로 한다.

상세 분석

논문은 먼저 Hill 암호가 전통적으로 가역 행렬을 키로 사용해 평문을 복호화할 수 있도록 설계된 점을 상기한다. 여기서 저자들은 “비가역” 행렬을 해시 함수의 핵심 연산으로 도입함으로써 복호화가 불가능하도록 만들고, 일방향성을 확보하고자 한다. 제안된 행렬은 GF(2) 상에서 각 행·열에 정확히 하나의 1만을 갖는 순열 행렬이며, 이는 m개의 원소를 순열하는 역할을 한다. 일반적인 선형 대수에서 순열 행렬은 행렬식이 ±1이므로 2진 체계에서도 1(≡ -1)이며, 따라서 가역이다. 논문은 이를 “비가역”이라고 주장하지만, 실제로는 전치 행렬이 역행렬이 되므로 가역성을 부정하기 어렵다. 이 모순은 제안된 해시 설계의 수학적 기반에 큰 의문을 제기한다.

또한, 해시 함수의 핵심 요구사항인 충돌 저항성, 전파성(avalanch effect), 출력의 균등 분포 등을 논의하지 않는다. 순열 행렬 자체는 입력 비트의 위치를 재배열할 뿐이며, 선형 변환만으로는 충분한 비선형성을 제공하지 못한다. 따라서 단순히 순열 행렬을 곱하는 단계만으로는 암호학적 강도를 확보하기 어렵다. 실제 구현에서는 추가적인 비선형 라운드 함수나 모듈러 연산이 필요하다는 점이 간과되고 있다.

생성 측면에서는 “쉽게 생성”한다는 장점이 있다. 무작위 순열을 생성하고 이를 행렬 형태로 변환하면 되므로 시간·공간 복잡도는 O(m) 수준이다. 그러나 이 장점은 비가역성을 보장하지 못한다는 근본적인 결함에 의해 상쇄된다. 또한, 제안된 행렬이 고정된 경우 공격자는 동일한 순열을 이용해 사전 공격(pre‑image attack)을 수행할 가능성이 높다.

보안 평가에서는 행렬의 비가역성을 입증하기 위한 수학적 증명이 부족하고, 실험적 해시 충돌 테스트나 통계적 분석 결과가 제시되지 않는다. 따라서 이 논문이 제안하는 “실용적 일방향 해시”는 현재의 암호학적 표준에 부합한다고 보기 어렵다.

요약하면, 논문은 순열 행렬을 이용한 해시 설계 아이디어는 흥미하지만, 비가역성에 대한 오해, 선형성에 의한 보안 약점, 그리고 실험적 검증 부재 등으로 인해 실용적인 해시 알고리즘으로 채택되기에는 한계가 있다. 향후 연구에서는 비선형 변환을 결합하고, 실제 충돌·역상 공격에 대한 정량적 분석을 수행해야 할 필요가 있다.