돌연변이 소수 매듭을 이용한 포스트 양자 암호 설계

초록

본 논문은 소수 매듭과 그 변형인 돌연변이 매듭을 연결합으로 결합한 복합 매듭을 분해하는 문제의 난이도를 기반으로, 고전적인 공개키와 대칭키를 결합한 암호 프로토콜을 제안한다. 매듭 인variant(특히 Jones 다항식)와 돌연변이 매듭이 구별되지 않는 특성을 이용해 양자 컴퓨터에도 안전한 ‘포스트 양자’ 암호 체계를 목표로 한다.

상세 분석

논문은 매듭 이론의 기본 개념을 암호학에 적용하려는 시도로, 특히 소수 매듭(prime knot)과 그 돌연변이(mutant) 매듭이 동일한 Jones 다항식 등 주요 인variant를 공유한다는 점에 주목한다. 이 특성을 이용해 매듭을 연결합(#) 연산으로 조합하면, 원래의 소수 매듭 집합을 알더라도 전체 복합 매듭을 고유하게 복원하기는 매우 어려워진다. 저자는 이를 ‘매듭 분해 문제’를 암호학적 ‘hard problem’으로 설정하고, 공개키 단계에서는 소수 매듭들의 Dowker‑Thistlethwaite 코드 목록을 공개키로, 비밀키 단계에서는 해당 매듭들의 구체적인 연결 순서와 돌연변이 선택 정보를 비밀키로 활용한다.

보안 분석에서는 기존 RSA·ECC와 달리 소인수분해나 이산 로그와 같은 수학적 문제에 의존하지 않으며, 현재 알려진 양자 알고리즘(예: Shor, Grover)으로는 매듭 인variant를 완전히 계산하거나 돌연변이 매듭을 구분할 수 없다고 주장한다. 그러나 실제로 매듭 동형성 판단은 아직 완전한 다항시간 알고리즘이 존재하지 않으며, 최근 연구에서는 특정 클래스의 매듭에 대해 효율적인 근사 알고리즘이 제시되고 있다. 또한, Jones 다항식 자체는 #P‑hard이지만, 양자 컴퓨터가 근사값을 빠르게 얻을 가능성은 완전히 배제되지 않는다.

실제 구현 측면에서는 매듭을 문자열 형태(DT 코드)로 인코딩하고, 연결합 연산을 문자열 결합 및 재배열로 수행한다. 그러나 매듭의 최소 교차 수를 유지하려면 복잡한 최적화가 필요하고, 코드 길이가 선형적으로 증가함에 따라 전송 및 저장 비용이 급증한다. 또한, 돌연변이 선택을 무작위로 수행한다면 키 공간이 급격히 확대되지만, 무작위성 확보와 키 관리가 추가적인 운영 부담을 만든다.

결론적으로, 이 논문은 매듭 이론을 암호 설계에 도입한 창의적인 시도이지만, 현재 매듭 분해 문제의 복잡도에 대한 이론적 증명 부족, 양자 알고리즘의 잠재적 진보 가능성, 그리고 실용적인 효율성 문제 등이 남아 있다. 향후 연구에서는 매듭 인variant의 양자 복원 가능성을 정량화하고, 코드 압축 및 키 교환 프로토콜을 최적화하는 것이 필요하다.