GPT 암호체계 보안 강화 방안 연구

초록

본 논문은 랭크 오류 정정 코드를 기반으로 한 GPT 공개키 암호체계의 보안 취약점을 분석하고, Overbeck 공격을 방어하기 위한 기존 도구를 다른 변형에 적용한 새로운 설계 방안을 제시한다.

상세 분석

GPT 암호체계는 1991년 제안된 이후, 랭크 메트릭을 이용해 전통적인 Hamming 기반 코드보다 짧은 공개키 길이를 구현할 수 있다는 장점으로 주목받았다. 그러나 랭크 코드의 구조적 특성 때문에 특정 행렬 형태가 공개키에 그대로 노출되면, 공격자는 이를 이용해 비밀키를 복원할 수 있다. 초기에는 Gibson이 제시한 선형대수 기반 공격이 있었으며, 이는 공개키의 행렬이 특정 형태를 유지할 때만 성공했다. 이후 Overbeck는 보다 일반적인 공격 모델을 도입해, 공개키 행렬에 대한 선형 변환과 Frobenius 연산을 결합함으로써 Gibson 공격이 실패하더라도 비밀키를 추출할 수 있음을 증명했다. Overbeck 공격은 특히 변형된 GPT 체계—예를 들어, 비가역 행렬 S와 P를 삽입하거나, 확장된 파라미터를 사용한 경우에도 적용 가능했다. 이러한 공격의 핵심은 공개키 행렬이 ‘가우시안 정규형’(Gaussian normal form)으로 변환될 수 있느냐에 달려 있다. 만약 변환이 가능하면, 공격자는 비밀 생성 행렬 G와 변환 행렬을 동시에 복원할 수 있다. 논문에서는 기존에 제안된 방어 도구, 즉 공개키 행렬에 임의의 비가역 행렬을 곱해 Frobenius 차원을 인위적으로 증가시키는 방법을 재검토한다. 이 방법은 Overbeck가 가정한 행렬 구조를 깨뜨려, Frobenius 연산 후에도 행렬이 정규형으로 수렴하지 않게 만든다. 핵심 아이디어는 ‘보호 행렬’ Q를 도입해, Q·G·P 형태의 공개키를 구성하고, Q가 Frobenius 연산에 대해 고정되지 않도록 설계하는 것이다. 이렇게 하면 공격자는 Q를 추정할 수 없으며, 결국 비밀키 복원이 불가능해진다. 논문은 이 방어 메커니즘을 기존 변형들—예를 들어, 확장된 파라미터 t를 늘린 변형, 혹은 비가역 행렬 S와 P를 교차 적용한 변형—에 모두 적용해 보안성을 검증한다. 실험 결과, 보호 행렬 Q를 삽입한 경우 Overbeck 공격의 복원 성공률이 0%에 수렴했으며, 키 생성 및 암호·복호화 연산 비용 증가도 기존 변형 대비 10% 이하로 제한될 수 있음을 보여준다. 따라서 이 접근법은 GPT 암호체계의 실용적 보안을 크게 향상시킬 수 있는 실효성 있는 해결책으로 평가된다.