다항식 이소모피즘의 다항시간 해법: 정규형 이차 경우

초록

이 논문은 이차 다항식 집합 사이의 변수 변환을 찾는 IP1S 문제를 무작위 다항시간 알고리즘으로 해결한다. 핵심은 문제를 대칭 행렬의 직교 동시 유사성 검사로 환원하고, 이를 행렬 공간에서 가역 행렬을 찾는 문제와 행렬 제곱근 계산 문제로 다시 변환한다. 다양한 체(특히 유한체)에서 정확한 제곱근을 효율적으로 구하는 방법을 제시하고, 자동군 구조와 일반 IP 문제에 대한 확장도 다룬다.

상세 분석

본 연구는 다변량 암호학에서 핵심적인 Isomorphism of Polynomials with one Secret(IP1S) 문제를, 특히 이차 형태(quadratic forms) 인스턴스에 대해 다항시간 내에 해결할 수 있음을 보인다. 기존에 그래프 이소모피즘이 3차 다항식에 귀환된다는 사실이 알려졌지만, 2차 경우는 아직 효율적인 알고리즘이 부재했다. 저자들은 먼저 모든 이차 형태가 비퇴화(non‑degenerate)하도록 무작위 변환을 적용해 ‘정규형(regular)’ 인스턴스로 변환한다. 이때 Hessian 행렬을 이용해 각 다항식의 2차 계수를 대칭 행렬 H_i 로 표현하고, 변환 행렬 A 가 존재하면 H′_i = A^T H_i A 가 성립한다.

핵심 아이디어는 위 식을 직접 풀기보다는 ‘D‑Orthogonal Simultaneous Matrix Conjugacy(D‑OSMC)’ 문제로 바꾸는 것이다. 여기서 D는 첫 번째 형태의 대각 행렬이며, 목표는 D‑직교 행렬 X (즉 X^T D X = D) 를 찾아 H_i 와 H′_i 를 동시에 공액(conjugate)시키는 것이다. Chistov‑Ivanyos‑Karpinski(1997)의 결과를 확장해, D‑OSMC는 (1) 일반 선형 동시 공액 행렬 Y 를 찾는 문제와 (2) 행렬 Z = D Y Y^T D^{-1} 의 제곱근 W 를 구하는 문제로 분해된다. Y 를 구하는 단계는 선형 방정식 시스템과 하나의 행렬식 비영(zero) 부등식(det Y ≠ 0)으로 구성된 Edmonds 문제와 동등하며, 이는 무작위 샘플링과 Schwartz‑Zippel 보조정리를 이용해 높은 확률로 가역 해를 찾을 수 있다.

제곱근 계산 단계는 수치적 방법이 아닌 정확한 대수적 방법을 요구한다. 저자들은 유한체, 유리체, 그리고 일반적인 특성 p≠2인 체에 대해, 행렬을 두 개의 행렬 곱으로 표현하는 형태(예: W = U V)로 제곱근을 구하는 다항시간 알고리즘을 설계한다. 각 계수는 K의 다항식 확장체에 속하므로 비트 복잡도도 다항적으로 제어된다.

또한, #IP1S(해의 개수) 문제를 다루며, 동형군(automorphism group)의 완전한 구조를 제시한다. 이는 동시 이차 형태의 대칭 행렬들이 형성하는 대수의 중심과 직교군의 교차로 설명된다.

마지막으로, 보다 일반적인 Isomorphism of Polynomials(IP) 문제, 즉 변수와 다항식 모두에 선형 변환을 허용하는 경우를 고려한다. 특히 f = (x_1^d,…,x_n^d) 형태의 입력에 대해, 문제는 ‘선형 행렬의 행렬식(선형 행렬)’을 인수분해하는 것으로 환원된다. Kayal의 PolyProj 결과를 확장해, 이 경우에도 무작위 다항시간 알고리즘을 제공한다.

전반적으로 이 논문은 이차 다항식 이소모피즘을 대수적·표현론적 관점에서 재구성하고, 기존에 난해했던 동시 이차 형태 동형 문제를 선형화와 행렬 제곱근 계산이라는 두 단계로 분해함으로써 실용적인 다항시간 해법을 제시한다. 이는 다변량 암호 설계와 분석, 그리고 그래프 이소모피즘과 같은 복합 구조 문제에 새로운 알고리즘적 도구를 제공한다.