제곱근 문제 기반 초고속 비대칭 암호 AA베타

초록

본 논문은 제곱근 모듈러 문제를 기반으로 한 새로운 비대칭 암호 체계인 AAβ 암호를 제안한다. 기존 라빈 암호의 4대1 복호화 모호성을 효율적으로 해소하고, 암호화 연산 복잡도를 Diffie‑Hellman, El‑Gamal, RSA, ECC보다 낮게 설계하였다. 또한 동일 키 길이에서 더 큰 데이터 블록을 안전하게 전송할 수 있어 저전력·저사양 디바이스에 적합한 구조를 제공한다.

상세 분석

AAβ 암호는 제곱근 문제, 즉 합성수 N=p·q( p,q는 큰 소수) 에 대해 x² ≡ y (mod N) 의 해를 찾는 것이 어려운 점을 보안 기반으로 삼는다. 라빈 암호는 이 원리를 최초로 적용했지만, 복호화 시 네 개의 가능한 평문이 도출돼 선택적 오류와 부정확성을 야기한다. 논문은 이를 두 단계의 보조 파라미터(α,β)를 도입해 평문에 고유한 마스크를 삽입함으로써 4가지 해 중 하나만이 유효하도록 설계한다. 구체적으로, 키 생성 단계에서 N 외에 두 개의 추가 정수 a,b (a·b≡1 mod φ(N)) 를 선택하고, 암호문을 (c₁,c₂) 형태로 구성한다. 복호화 시 c₁의 제곱근을 구한 뒤 a와 b를 이용해 역변환을 수행하면 유일한 평문이 복원된다.

이 과정에서 연산 복잡도는 주로 모듈러 제곱과 곱셈에 국한되며, 라틴 제곱근 알고리즘(예: Tonelli‑Shanks) 사용 시 O(log N) 시간에 복호화가 가능하다. 암호화는 단순히 평문에 a를 곱하고 N으로 모듈러 연산한 뒤, 추가적인 XOR 마스크와 결합하는 형태로, RSA의 지수 연산(O(log e))보다 현저히 빠르다. 또한, 평문을 두 개의 블록으로 나누어 동시에 암호화함으로써 동일 키 길이에서 전송 가능한 데이터 양이 기존 라빈·RSA 대비 2배 이상 증가한다.

보안 측면에서는 AAβ가 제곱근 문제와 a·b≡1 (mod φ(N)) 관계를 동시에 만족해야 하는 복합 난이도를 갖는다. 공격자는 N의 소인수 분해 없이 a와 b를 구할 수 없으며, 이는 RSA의 팩터링 문제와 동등하거나 더 어려운 것으로 평가된다. 또한, 선택 평문 공격에 대비해 마스크가 무작위화되므로 평문 복원 확률은 1/2ⁿ( n은 마스크 비트 수) 수준으로 억제된다.

하지만 몇 가지 잠재적 약점도 존재한다. 첫째, a와 b의 선택이 부적절하면 a·b≡1 (mod φ(N)) 를 만족하지 못해 복호화 오류가 발생한다. 둘째, N이 충분히 큰(2048비트 이상) 경우에도 제곱근 연산 자체가 양자 컴퓨터에 의해 Shor 알고리즘으로 효율적으로 해결될 위험이 있다. 셋째, 구현 시 랜덤 마스크 생성기의 품질이 낮으면 사이드채널 공격에 취약해질 수 있다. 따라서 실용적 적용을 위해서는 안전한 난수 생성기와 키 검증 절차가 필수적이다.

종합하면, AAβ 암호는 라빈 암호의 구조적 결함을 보완하고, 연산 효율성을 크게 향상시킨 혁신적인 설계라 할 수 있다. 특히 저전력 IoT 디바이스나 임베디드 시스템에서 대칭키 교환 없이도 빠른 공개키 암호화를 구현하고자 할 때 유용할 것으로 기대된다.