SVP 해결을 위한 동적 1‑테일 파티션 탐색 변분 양자 알고리즘

초록

본 논문은 기존의 PSA와 IQOAP이 갖는 정적 파티션 및 비효율적 반복 문제를 극복하기 위해, “1‑테일 탐색 공간”과 스택 기반 동적 반복 과정을 결합한 Iterative Partition Search Algorithm (IPSA)을 제안한다. 1‑테일 전략은 i번째 계수를 1로 고정해 검색 공간을 축소하고, 찾은 벡터가 반드시 격자 기저 업데이트에 사용될 수 있도록 보장한다. 스택‑관리 반복은 성공적인 업데이트 직후 작은 파티션부터 재탐색하도록 하여 전체 회로 깊이와 큐비트 요구량을 크게 낮춘다. Baihua 초전도 프로세서(Quafu)에서 수행한 실험에서는 PSA 대비 성공률이 14배 상승하면서 회로 깊이는 2배 미만, IQOAP 대비 회로 깊이는 82.7% 감소하고 성공률은 2.5배 향상되었다. 시뮬레이션 결과도 실험과 일치한다.

상세 분석

IPSA의 핵심 혁신은 두 가지 설계 요소에 있다. 첫 번째는 “1‑테일 탐색 공간”(Y_i)이다. 기존 PSA는 각 파티션 X_i에서 i번째 계수를 1 이상으로 제한했지만, 여전히 모든 계수를 양자 비트로 인코딩해야 했다. IPSA는 Y_i를 { (y₁,…,y_{i‑1},1,0,…,0)ᵀ ∈ ℤⁿ } 로 정의함으로써 i번째 계수를 고정하고, 해당 계수에 대한 비트를 완전히 제거한다. 이는 (i) 큐비트 수를 O(n·log n)에서 실제 필요 비트 수보다 크게 절감하고, (ii) 비용 함수의 지형을 단순화해 최적화가 지역 최소에 빠질 위험을 감소시킨다. 특히, i번째 계수가 1이라는 제약은 Theorem 1에 의해 찾은 벡터 v가 반드시 기존 기저 b_i를 교체해도 격자 구조를 유지한다는 수학적 보장을 제공한다. 따라서 IQOAP에서 발생하던 “짧은 벡터를 찾았지만 기저 업데이트에 사용할 수 없는 비효율적 반복”을 원천 차단한다.

두 번째 혁신은 스택‑관리 동적 반복 프로세스이다. 알고리즘 2는 초기 기저를 길이 순으로 정렬하고, 파티션 Y_n … Y₁을 스택에 푸시한다. 파티션을 팝하고 VQA(HEA 기반)로 최적화를 수행한 뒤, 성공적인 교체가 이루어지면 해당 파티션 이하(더 작은 인덱스)와 교체된 벡터가 위치한 인덱스까지의 파티션을 다시 스택에 삽입한다. 이 메커니즘은 기저가 점진적으로 더 짧고 직교에 가까워질 때마다 작은 검색 공간을 우선적으로 재탐색하게 하여, 큰 파티션을 탐색하기 전에 가능한 최적의 기저를 확보한다. 결과적으로 전체 반복 횟수 M에 비해 실제 실행되는 회로 깊이는 크게 감소한다.

양자 회로 설계 측면에서 저자들은 하드웨어‑친화적인 Hardware‑Efficient Ansatz(HEA)를 선택했다. QAOA는 전부 연결된 이중 얽힘 게이트(RZZ)를 필요로 하지만, 초전도 프로세서의 제한된 토폴로지 때문에 SWAP 게이트와 추가 CZ 게이트가 대량 삽입되어 전환 비용이 급증한다. 반면 HEA는 토폴로지에 맞춰 얽힘 블록을 배치해 SWAP 필요성을 최소화하고, 실제 회로 깊이를 7(논리) → 64(최적화된 QAOA 대비) 수준으로 유지한다. 이는 실험에서 관측된 82.7% 회로 깊이 감소와 직접 연관된다.

실험 결과는 두 가지 비교 축에서 눈에 띈다. PSA 대비 IPSA는 성공률이 14배 상승했으며, 회로 깊이는 PSA 대비 약 1.8배 증가에 그쳤다(실제 깊이 차이는 12→22 수준). IQOAP 대비는 회로 깊이가 82.7% 감소하면서도 성공률이 2.5배 향상되었다. 이러한 실험은 Baihua 프로세서(6‑qubit, 제한된 연결)에서 수행됐으며, 시뮬레이션(노이즈 없는)에서도 동일한 추세가 재현돼 제안된 알고리즘의 하드웨어 독립적 유효성을 뒷받침한다.

한계점으로는 현재 실험이 4‑5 차원(6‑qubit) 라티스에 국한돼 있어, 고차원(예: n≥10)에서의 스케일링이 아직 검증되지 않았다. 또한 1‑테일 파티션이 i번째 계수를 1로 고정함으로써 탐색 공간을 크게 축소하지만, 특정 라티스 구조에서는 이 고정이 최적 해를 놓칠 가능성도 존재한다. 향후 연구에서는 동적 i값 선택, 다중‑테일(다중 고정 계수) 전략, 그리고 오류 보정 기법과 결합한 고차원 실험을 제시해야 한다.