브레이드 군 암호학 현황과 전망

초록

지난 10년간 브레이드 군의 조합론적 군론 문제를 기반으로 한 여러 공개키 암호 체계가 제안되었다. 본 논문은 이러한 암호 체계와 알려진 공격들을 조사한다. 조사 내용은 다음과 같다: 브레이드 군 및 그 원소들의 Garside 정규형에 관한 기본 사실, 브레이드 군의 단어 문제를 해결하기 위한 알려진 알고리즘, 브레이드 군을 기반으로 한 주요 공개키 암호 체계, 그리고 이들 암호 체계에 대한 알려진 공격들. 마지막으로 향후 연구 방향을 논의하며, 여기에는 다른 비가환 군을 기반으로 한 암호 체계에 대한 설명도 포함한다.

상세 요약

브레이드 군은 매듭 이론에서 유도된 무한 비가환 군으로, 그 복잡한 대수적 구조 때문에 암호학적 응용 가능성이 크게 주목받아 왔다. 특히, 군 원소들의 결합이 쉽게 역산되지 않는 특성은 전통적인 정수 기반 난이도(예: 소인수분해)와는 다른 새로운 난이도 가정을 제공한다. 본 논문은 이러한 배경을 바탕으로, 브레이드 군의 핵심 이론인 Garside 정규형을 상세히 소개한다. Garside 정규형은 임의의 브레이드 원소를 고유한 ‘정규 형태’로 변환함으로써 단어 문제(word problem)를 효율적으로 해결할 수 있게 해 주며, 이는 암호 프로토콜 설계 시 원소 비교와 연산의 정확성을 보장한다.

논문이 다루는 주요 암호 체계는 크게 두 종류로 구분된다. 첫 번째는 Anshel‑Anshel‑Goldfeld(AAG) 프로토콜과 그 변형으로, 두 사용자가 각각 비밀 서브그룹을 선택하고, 서로의 공개 서브그룹에 대한 공통 교환값을 계산함으로써 공유 비밀을 도출한다. 두 번째는 Ko‑Lee‑Cheon‑Han‑Kang‑Park(KLCHKP) 프로토콜로, 이는 Diffie‑Hellman 방식의 비가환 버전이라 할 수 있다. 여기서는 공개키로서 특정 브레이드 원소와 그 원소에 대한 공용 ‘conjugator’를 제공하고, 비밀키는 해당 원소를 특정 다른 원소와 결합(conjugate)하는 데 사용된다. 두 프로토콜 모두 ‘conjugacy search problem(CSP)’ 혹은 ‘simultaneous conjugacy search problem(SCSP)’의 난이도에 기반한다.

하지만 이후 연구에서 여러 공격이 제시되었다. 가장 대표적인 것은 길이 기반 공격(length‑based attack)으로, 브레이드 원소의 ‘길이’(예: Garside 길이)를 이용해 비밀 conjugator를 점진적으로 추정한다. 또한, 선형 대수학적 접근법을 활용한 ‘matrix representation attack’은 브레이드 군을 특정 행렬군으로 표현함으로써 CSP를 선형 시스템으로 전환시켜 해결한다. 그 외에도, ‘braid reduction attack’, ‘peak reduction’, 그리고 ‘randomized subgroup attack’ 등 다양한 기법이 제안되어 왔으며, 이들 공격은 특히 파라미터 선택이 부적절하거나, 서브그룹 구조가 약할 때 높은 성공률을 보인다.

이러한 공격들을 종합해 볼 때, 브레이드 군 기반 암호의 보안은 파라미터(브레이드 수 n, 단어 길이 ℓ)와 서브그룹 선택에 크게 좌우된다. 현재까지 알려진 가장 안전한 설정은 n≥80, ℓ≥200 정도이며, 서브그룹을 무작위로 선택하고, 정규형을 이용해 중복을 최소화하는 방식을 권장한다. 그러나 실용적인 구현에서는 연산 복잡도와 키 길이 사이의 트레이드오프가 존재하므로, 실제 시스템에 적용하기 위해서는 효율성 평가와 보안 분석을 동시에 수행해야 한다.

마지막으로 논문은 향후 연구 방향으로, 브레이드 군 외에도 Artin‑type 군, Thompson 군, 그리고 비가환 링 기반 구조 등 다양한 비가환 대수체를 활용한 암호 설계 가능성을 제시한다. 특히, 양자 컴퓨팅 시대에 대비해 ‘post‑quantum’ 보안성을 갖는 비가환 문제를 탐구하는 것이 중요한 과제로 부각된다. 이러한 흐름은 기존의 격자 기반, 코드 기반 암호와는 차별화된 새로운 보안 패러다임을 제공할 가능성이 있다.