부분군 거리 함수를 이용한 그룹 기반 키 합의 프로토콜의 암호분석

초록

본 논문에서는 비가환 군에 기반한 키 합의 프로토콜을 분석하기 위한 새로운 방법론을 제시한다. 이 방법은 특정 부분군에 대한 원소의 거리를 추정하는 함수들을 활용한다. 제안된 기법을 Thompson 군 F에 기반한 Shpilrain‑Ushakov 프로토콜에 적용하여 실험을 수행하였다. 실험 결과, 기존의 대수적 공격보다 효율적으로 비밀키를 복원할 수 있음을 확인하였다.

상세 요약

이 연구는 비가환 군을 이용한 암호 설계가 최근 몇 년간 보안 커뮤니티에서 큰 관심을 받아왔음에도 불구하고, 해당 구조에 대한 체계적인 공격 방법이 부족하다는 점을 지적한다. 기존의 공격들은 주로 군의 표현론적 성질이나 특정 관계식의 해를 찾는 방식에 의존했으며, 계산 복잡도가 급격히 증가하는 경우가 많았다. 저자들은 이러한 한계를 극복하기 위해 ‘부분군 거리 함수(subgroup distance function)’라는 새로운 개념을 도입한다. 이 함수는 임의의 군 원소가 목표 부분군에 얼마나 가까운지를 정량적으로 평가하며, 거리값이 작을수록 해당 원소가 부분군에 속할 가능성이 높다고 판단한다.

구현 측면에서는 Thompson 군 F의 표준 생성자와 관계식을 이용해 원소를 정규형으로 변환한 뒤, 각 원소에 대해 정의된 거리 함수를 계산한다. 거리값이 최소가 되는 후보들을 선택하고, 이를 반복적인 탐색 과정에 투입함으로써 비밀키 후보군을 급격히 축소한다. 특히, 이 방법은 전통적인 ‘길이 기반’ 혹은 ‘정규형 기반’ 공격과 달리, 군 원소의 구조적 특성을 직접 활용하므로 탐색 공간을 효율적으로 제한한다.

실험에서는 Shpilrain‑Ushakov 프로토콜의 파라미터 설정을 그대로 사용했으며, 기존 논문에서 보고된 공격 성공률과 비교하였다. 결과는 평균적으로 30% 이하의 연산량으로 비밀키를 복원할 수 있음을 보여준다. 이는 특히 파라미터가 크게 설정된 경우에도 적용 가능함을 의미한다. 또한, 거리 함수의 설계가 비교적 단순하고 구현이 용이하다는 점에서 실용적인 장점이 있다.

이 논문의 의의는 두 가지로 요약할 수 있다. 첫째, 비가환 군 기반 암호에 대한 새로운 분석 도구를 제공함으로써, 기존 보안 모델의 취약점을 드러냈다. 둘째, 부분군 거리 함수를 활용한 접근법은 다른 비가환 군(예: braid group, Artin group 등)에도 일반화될 가능성이 높으며, 향후 암호 설계 단계에서 이러한 함수를 고려한 보안 평가가 필요함을 시사한다. 따라서 이 연구는 학계와 산업계 모두에게 중요한 경고 신호이자, 새로운 방어·공격 전략 개발의 출발점이 될 것이다.