텐서 네트워크로 구현한 스놉르 체인: RSA 팩터링의 새로운 가능성

초록

본 논문은 스놉르의 격자 체인 방식을 텐서 네트워크(특히 트리 텐서 네트워크, TTN)로 가속화하여 RSA 반곱수의 고전적 팩터링을 시도한다. 100비트 이하의 RSA 키를 성공적으로 분해하고, 130비트까지는 자원 요구량이 다항식적으로 증가한다는 수치적 증거를 제시한다.

상세 분석

이 연구는 기존의 스놉르 격자 체인 알고리즘을 양자 영감을 받은 텐서 네트워크 기법으로 재구성함으로써 두 가지 핵심적인 개선을 시도한다. 첫째, RSA 반곱수 N을 “X²‑Y²” 형태의 차이 제곱 문제로 변환하는 전통적인 체인 방식 대신, N에 대응하는 n‑차원 격자 Λ와 목표 벡터 t를 정의하고, 이들 사이의 가장 가까운 격자점(b) 를 찾는 Closest Vector Problem(CVP)을 최적화 문제로 설정한다. 기존 스놉르 방법에서는 Babai의 최근 평면 알고리즘을 이용해 단일 근사 해 b_cl 를 얻고, 그 주변의 후보들을 탐색하는 데 지수적인 비용이 소요된다. 저자들은 이를 해결하기 위해 격자점들을 스핀 글래스 해밀토니안 H(식 1) 의 고에너지 상태와 연관시키고, H가 계산 기반에서 대각화된다는 점을 이용해 2ⁿ 개의 가능한 라운딩 상태를 양자 비트 문자열로 매핑한다.

두 번째 핵심은 TTN을 이용한 변분적 지상 상태 탐색이다. 저자들은 OPES(Optimized Probabilistic Extraction Sampling) 알고리즘을 적용해 TTN에서 낮은 에너지 고유 상태들의 중첩을 효율적으로 샘플링한다. 이 과정에서 “bond dimension” m=8, 샘플 수 O(ℓ³) 등 하이퍼파라미터를 조정해, 확률이 매우 낮은 상태까지도 중복 없이 추출한다. 결과적으로, 기존 Babai 해에 비해 훨씬 많은 “smooth‑relation”(sr) 쌍을 확보할 수 있었으며, 이는 최종 선형대수 단계에서 X²와 Y²를 구성해 p·q=N을 복원하는 데 필수적이다.

실험적으로는 n=64(즉, 64‑qubit) TTN을 사용해 100‑bit RSA 키를 성공적으로 분해했으며, n을 256까지 확장해 130‑bit까지의 시뮬레이션을 수행했다. 자원 요구량(특히 필요한 qubit 수와 샘플링 비트 문자열 수)은 식 (2)와 (3)에 의해 지수적 감소와 다항식 증가를 동시에 보이며, 피팅 파라미터 C₁≈2.0, C₂≈0.04, μ≈1.38, ω≈8을 얻었다. 특히, sr‑pair 당 평균 수(AsrPL)는 ℓ_eff=ℓ/n^{1/ω}에 대한 지수적 감소를 보였으며, 이는 수론적 Dickman 함수와 일치한다.

하지만 몇 가지 한계도 명확히 드러난다. 첫째, 실험에 사용된 “qubit”는 실제 양자 비트가 아니라 고전적 시뮬레이션상의 차원이며, 256‑qubit TTN을 구현하는 데는 메모리와 연산량이 급격히 증가한다. 둘째, 하이퍼파라미터 π₂=2^{nℓ}와 같은 급격한 스무스니스 바운드 선택은 이론적 복잡도 분석에서 다항식이라 주장하지만, 실제 구현에서는 상수 팩터가 매우 커서 현재 수준의 슈퍼컴퓨터로는 200‑bit 이상을 다루기 어렵다. 셋째, CVP를 해결하기 위한 격자 차원 n이 키 길이 ℓ에 비례적으로 증가함에 따라, “샘플링 비트 문자열 수 O(ℓ^γ)”의 γ가 2~4 정도로 설정될 경우에도 전체 연산 복잡도는 O(2^{nℓ})에 가까운 규모로 급증한다. 따라서 “다항식 스케일링”이라는 결론은 실험 범위(ℓ≤130) 내에서의 경험적 관찰에 국한될 가능성이 크다.

전반적으로, 텐서 네트워크를 이용한 스놉르 체인 개선은 기존 고전적 체인 알고리즘의 병목을 완화하고, 스무스 관계를 효율적으로 수집하는 새로운 길을 제시한다. 하지만 현재 구현 수준에서는 RSA‑2048과 같은 실용적 키 길이를 위협하기엔 아직 멀었으며, 포스트‑양자 암호 전환의 필요성을 강조하는 동시에, 양자‑클래식 하이브리드 알고리즘 연구에 중요한 벤치마크를 제공한다.