비결합성 기반 공개키 암호의 새로운 지평

초록

본 논문은 마그마(비결합 연산 구조) 위에 일반화된 Anshel‑Anshel‑Goldfeld 키 교환 프로토콜을 제시한다. 이를 통해 비결합성을 이용한 공개키 암호 체계를 구축하고, 왼쪽 자체분배 시스템과 f‑공액, 이동 공액 등 구체적인 구현 예를 제시한다. 기존의 브라운 그룹 기반 AAG 프로토콜과 비교하여 보안성과 효율성에서 장점을 논한다.

상세 분석

논문은 먼저 전통적인 AAG 키 교환이 그룹의 결합법칙에 의존한다는 점을 지적하고, 이를 마그마라는 보다 일반적인 대수구조로 확장한다. 마그마는 연산이 결합법칙을 만족하지 않아도 되는 집합과 이항연산의 쌍으로 정의되며, 이러한 비결합성은 기존의 공격 기법—특히 길이 기반 공격이나 선형 대수적 해석—에 직접 적용하기 어렵게 만든다. 저자는 마그마 위에서의 AAG‑KEP를 구성하기 위해 두 참가자 A와 B가 각각 마그마의 부분집합을 선택하고, 그 원소들을 비공개 비밀키로 사용한다. 공개 단계에서는 선택된 원소들을 마그마 연산을 통해 서로 교환하고, 최종 공유 비밀은 두 비밀키와 교환된 원소들의 복합 연산 결과로 정의된다. 핵심은 연산이 비결합이므로 순서와 괄호 배치가 결과에 큰 영향을 미친다는 점이다.

특히 논문은 왼쪽 자체분배(self‑distributive) 시스템이 마그마 AAG‑KEP의 특수 경우임을 보인다. 왼쪽 자체분배는 연산 ∘가 a∘(b∘c)= (a∘b)∘(a∘c) 를 만족하는 구조로, 이는 라이트 라인(Laver) 대수와 같은 고급 대수학에서 등장한다. 이러한 시스템을 이용하면 비밀키를 “f‑공액” 형태로 표현할 수 있다. f‑공액은 그룹 G와 사상 f:G→G에 대해 a⋆b = a·f(b)·a⁻¹ 로 정의되며, f가 자동사상일 경우 기존 공액과 동일하지만, 일반적인 사상일 경우 연산이 비결합성을 띤다. 저자는 이 구조를 이용해 구체적인 프로토콜을 설계하고, 복잡도 분석을 통해 기존 브라운 그룹 기반 AAG보다 더 큰 탐색 공간을 제공함을 증명한다.

또 다른 구현 예로는 브라운 군(braid group)에서의 “이동 공액(shifted conjugacy)”를 들었다. 이동 공액은 σ_i와 같은 기본 교환자를 일정한 인덱스만큼 이동시킨 뒤 공액을 취하는 연산으로, 이는 전통적인 공액 연산에 비해 연산 결과가 더 복잡하고 비결합성을 강화한다. 이러한 연산을 마그마의 연산으로 해석하면, 키 교환 과정에서 발생하는 중간값들의 구조가 더욱 난해해져, 기존의 대수적 공격이 적용되기 어려워진다.

보안 분석에서는 문제의 핵심이 “마그마 이산 로그 문제”와 “마그마 공액 문제”로 귀결된다고 주장한다. 이는 주어진 원소와 연산 규칙만으로 비밀키를 복원하는 것이 현재 알려진 다항시간 알고리즘으로는 해결 불가능하다는 가정에 기반한다. 또한, 비결합성으로 인해 “중간값 공격”이나 “동시 방정식 공격”이 복잡도가 급격히 상승한다는 점을 강조한다.

마지막으로 구현상의 효율성을 논의하면서, 마그마 연산이 그룹 연산보다 계산량이 크게 늘어나지 않으며, 특히 f‑공액과 이동 공액은 기존 브라운 군 연산에 비해 추가적인 메모리 오버헤드가 적다고 제시한다. 전체적으로 이 논문은 비결합성을 암호학적 원리로 도입함으로써 새로운 설계 공간을 열었으며, 향후 포스트‑양자 암호 체계와의 연계 가능성도 시사한다.