빠른 사각화: 양자 툴체인을 위한 효율적인 변환 기법

초록

이 논문은 고차 다항식 형태의 최적화 문제(PUBO)를 양자 컴퓨팅에 적합한 2차 형태(QUBO)로 변환하는 새로운 알고리즘을 제안한다. 기존 방법이 복잡도와 실행 시간에서 비효율적이었던 반면, 저자들은 멀티그래프 기반 데이터 구조와 현명한 변수 쌍 선택 전략을 도입해 변환 속도를 크게 향상시켰으며, 산업 현장의 SAT·Job‑Shop 등 다양한 사례에서 높은 밀도와 낮은 회로 비용을 달성함을 실험적으로 입증한다.

상세 분석

본 연구는 현재 NISQ 시대에 최적화 문제를 양자 하드웨어에 매핑할 때 발생하는 두 가지 주요 병목 현상을 정확히 짚어낸다. 첫 번째는 문제 자체의 표현이 하드웨어의 2‑qubit 상호작용 제한과 맞지 않아 발생하는 구조적 오버헤드이며, 두 번째는 이러한 변환 과정을 수행하는 고전적 전처리 단계가 실제 양자 이득을 상쇄할 정도로 오래 걸린다는 점이다. 이를 해결하기 위해 저자들은 기존의 “밀집‑중간‑희소” 선택 전략을 전면 재구성한다. 핵심 아이디어는 PUBO를 구성하는 변수 쌍을 그래프의 간선으로 모델링하고, 각 간선에 해당 monomial의 고유 인덱스를 라벨링한 멀티그래프 G_f를 구축하는 것이다. 이 구조는 (i) 변수 쌍의 등장 빈도를 O(1) 시간에 조회할 수 있는 해시맵 형태의 인덱스를 제공하고, (ii) 다중 간선(같은 변수 쌍이 여러 monomial에 등장) 정보를 보존함으로써 변환 과정에서 중복 계산을 방지한다.

알고리즘은 다음과 같이 진행된다. 1) 현재 그래프에서 가장 높은 차수를 가진 monomial을 탐색하고, 그 안에서 가장 빈번히 등장하는 변수 쌍을 선택한다(‘밀집‑우선’ 전략). 2) 선택된 변수 쌍 (x_i, x_j)을 새로운 보조 변수 y_h 로 대체하고, 해당 쌍을 제거한 뒤 페널티 항 p(x_i,x_j,y_h)=3y_h + x_i x_j – 2x_i y_h – 2x_j y_h 를 추가한다. 3) 그래프를 업데이트하면서 간선 라벨을 재조정하고, 새로 도입된 y_h 와 기존 변수 간의 연결을 삽입한다. 이 과정을 모든 monomial의 차수가 2 이하가 될 때까지 반복한다.

복잡도 분석에서는 기존 구현이 매 반복마다 전체 monomial 집합을 선형 탐색하므로 최악의 경우 O(T·n²) (T는 monomial 수, n은 변수 수) 시간이 소요되는 반면, 제안된 그래프 기반 접근은 각 반복이 O(deg_max·log n) 수준으로 감소한다는 것을 증명한다. 특히, 변수 쌍 선택 단계에서 ‘밀집‑우선’ 전략이 전체 변환 단계에서 발생하는 보조 변수 수를 최소화하고, 결과 QUBO의 2차 밀도 d₂를 0.9 이상 유지함으로써 양자 회로의 게이트 수와 깊이를 크게 줄인다.

실험에서는 (a) 기존 quark 라이브러리의 Dense, Medium, Sparse 전략과 (b) 제안 알고리즘을 Job‑Shop Scheduling, SAT‑k‑클래스, Max‑Cut 등 7가지 산업 수준 인스턴스에 적용하였다. 변환 시간은 평균 10⁴배 이상 가속되었으며, 생성된 QUBO는 평균 30% 적은 변수와 45% 적은 2‑차 항을 포함했다. 양자 근사 최적화(QAOA) 시뮬레이션 결과, 회로 깊이가 2‑3배 감소하고, 최적해 근접도는 기존 방법과 동등하거나 약간 개선되었다.

또한, 저자들은 변환 파이프라인을 전체 양자 툴체인(컴파일 → 트랜스파일 → 실행)과 연계해, 변환 단계가 전체 실행 시간의 5% 이하로 축소될 수 있음을 시연한다. 이는 NISQ 디바이스에서 실제 문제를 해결할 때 ‘전처리 오버헤드’를 사실상 무시할 수 있게 만든다.

결론적으로, 이 논문은 PUBO→QUBO 변환을 그래프 이론과 효율적인 데이터 구조에 기반해 재정의함으로써, 양자 최적화 워크플로우의 병목을 근본적으로 해소하고, 향후 대규모 실용 문제에 양자 컴퓨팅을 적용할 수 있는 실질적인 발판을 제공한다.