스마트 매트릭스로 방어하는 GPT 순위코드 암호

초록

본 논문은 GPT(Gabidulin‑Paramonov‑Trejtakov) 암호체계에 대한 새로운 방어 전략인 “Smart 접근법”을 제안한다. 왜곡 행렬 X를 적절히 선택함으로써, 기본체인 F_q 위의 열 스크램블러 행렬 P를 사용하더라도 기존의 Gibson·Overbeck 공격을 모두 무력화한다. 결과적으로 키 크기를 유지하면서도 보안성을 크게 향상시킨다.

상세 분석

GPT 암호는 Gabidulin 코드를 기반으로 한 공개키 암호체계로, Hamming 거리 대신 순위 거리(rank metric)를 이용한다는 점에서 기존 McEliece 계열과 차별화된다. 순위 거리의 특성상 조합적 디코딩이 실질적으로 불가능하므로, 동일한 보안 수준을 제공하면서도 공개키 크기를 크게 줄일 수 있다. 그러나 1990년대 후반부터 Gibson이 제시한 구조적 공격과, 2008년 Overbeck가 제안한 보다 정교한 선형 대수적 공격이 등장하면서 GPT의 실용성이 크게 위협받았다. Overbeck 공격은 특히 열 스크램블러 P를 확장체 F_{q^m} 가 아닌 기본체 F_q 위에 두는 경우에도 적용 가능하며, 파라미터 선택에 따라 다항식 시간 또는 지수 시간 복잡도로 암호를 깨뜨릴 수 있다.

논문에서 제시하는 “Smart 접근법”은 이러한 구조적 취약점을 근본적으로 차단한다. 핵심은 왜곡 행렬 X의 설계에 있다. 기존 GPT에서는 X를 임의 혹은 단순히 무작위로 선택했지만, Smart 접근법은 X가 특정 선형 독립성 및 비가역성 조건을 만족하도록 구성한다. 구체적으로, X는 Gabidulin 생성 행렬 G와 결합했을 때 전체 변환 행렬 S·G·X·P가 고유한 순위 구조를 유지하도록 설계된다. 이때 P는 기본체 F_q 위의 전치 가능한 행렬이지만, X의 특수한 선택 덕분에 Overbeck가 이용하는 “시프트 연산”과 “선형 종속성 검출”이 무력화된다.

또한, 논문은 X를 선택하는 알고리즘을 제시한다. 먼저, 확장체 F_{q^m} 에서 선형 독립인 벡터 집합 {v_1,…,v_k}를 무작위로 생성하고, 이를 기반으로 X를 구성한다. 이어서 X·P가 기본체 F_q 에서 완전한 비가역성을 갖는지 검증하고, 필요 시 재생성한다. 이러한 절차는 다항식 시간 내에 수행 가능하며, 키 생성 비용을 크게 증가시키지 않는다.

보안 분석에서는 Gibson·Overbeck 공격의 핵심 단계—특히 행렬 P의 구조를 추정하고, G·X·P의 순위 분포를 복원하려는 시도—가 X의 설계에 의해 차단됨을 수학적으로 증명한다. 특히, X가 생성하는 “왜곡 공간”이 Overbeck가 가정하는 선형 서브스페이스와 교차하지 않음을 보이며, 이는 공격자가 필요한 선형 방정식 시스템을 구성할 수 없게 만든다. 결과적으로, 모든 알려진 구조적 공격에 대해 복잡도는 최소 지수 시간 수준으로 상승한다.

성능 측면에서는 기존 GPT와 비교했을 때 공개키·비밀키 크기 변화가 거의 없으며, 암호화·복호화 연산도 동일한 Gabidulin 디코더를 사용하므로 실용적인 효율성을 유지한다. 따라서 Smart 접근법은 보안 강화와 효율성 사이의 트레이드오프를 최소화한다는 점에서 실용적 가치가 높다.