양자 고전 하이브리드 분기한계 알고리즘

초록

본 논문은 이진 선형 프로그램을 해결하기 위해 양자 최적화와 고전적 분기‑한계 기법을 결합한 완전한 하이브리드 알고리즘(QCBB)을 제안한다. 양자 샘플을 이용해 충돌 변수 값을 추정하고, 이를 기반으로 변수 선택·제약 전파·문제 축소를 수행한다. 고전적인 Goemans‑Williamson 근사와 상수 보정을 이용한 하한 계산으로 가지를 효율적으로 가지치기하며, 전역 최적성을 보장한다. 집합 분할 문제 실험을 통해 알고리즘의 단계별 특성을 분석한다.

상세 분석

QCBB는 전통적인 분기‑한계 프레임워크에 양자 변분 알고리즘을 삽입함으로써 두 영역의 장점을 동시에 활용한다. 먼저 마스터 문제를 이진 형태에서 Ising Hamiltonian 형태로 변환하고, QAOA와 같은 VQA를 통해 저에너지 샘플을 다수 획득한다. 이 샘플들은 단순히 후보 해를 제공하는 것을 넘어, 각 변수의 ‘충돌 값(conflict value)’을 계산하는 데 사용된다. 충돌 값은 제약 위반 행렬 V와 변수‑제약 매핑 행렬 P를 통해 γ = νP 로 정의되며, 위반 비율 ν는 샘플 집합에서 제약 위반이 발생한 비율을 나타낸다. 가장 큰 γ 값을 가진 변수를 분기 변수로 선택함으로써, 위반 가능성이 높은 영역을 빠르게 탐색한다.

분기 후에는 변수 고정에 따른 제약 전파를 수행한다. 이는 DPLL 기반 SAT 솔버에서 차용한 논리 전파와 유사하게, 고정된 변수에 의해 다른 변수들의 값이 강제되는 경우를 자동으로 반영한다. 전파 과정에서 불가능성이 발견되면 해당 서브트리를 즉시 가지치기한다.

하한 계산은 기존 LP‑relaxation 대신 Goemans‑Williamson 알고리즘을 이용한 Max‑Cut 근사에 기반한다. 변환된 서브 문제의 Hamiltonian을 Max‑Cut 형태로 바꾸고, GW 알고리즘으로 얻은 근사값 z_GW와 평균 최악 근사 비율 α=0.87856을 이용해 LB_GW = −2αz_GW + (2α−2)W_− + W 로 하한을 산출한다. 여기서 W_−와 W는 각각 음의 가중치와 전체 가중치의 합을 의미한다. 이 하한에 고정 변수에 의해 발생한 상수 항을 더해 원 문제에 대한 유효한 하한을 얻는다.

노드 선택 전략은 현재 프론티어에서 가장 낮은 하한을 가진 노드를 우선적으로 평가하는 그리디 방식이다. 이는 가장 큰 갭을 빠르게 감소시켜 전체 탐색 비용을 최소화한다. 가지치기는 두 가지 기준을 사용한다. 첫째, 하한이 현재 최적(incumbent)보다 크면 해당 노드와 그 서브트리를 제거한다. 둘째, 전파 과정에서 불가능성이 발견되면 즉시 가지치기한다.

실험에서는 집합 분할(set partitioning) 문제 인스턴스를 사용해 QCBB의 각 단계—충돌 값 계산, 변수 선택, 제약 전파, 하한 계산—의 성능을 정량적으로 평가한다. 결과는 양자 샘플의 노이즈에도 불구하고, 충돌 기반 분기가 전통적인 무작위 분기보다 빠른 수렴을 보이며, GW 기반 하한이 충분히 타이트해 가지치기 비율을 크게 향상시킴을 보여준다. 또한, 알고리즘이 전역 최적성을 보장함에도 불구하고, 현재 실험 규모에서는 고전적 상용 솔버에 비해 실행 시간이 길지만, 양자 하드웨어가 개선될 경우 경쟁력이 상승할 여지가 있다.

전체적으로 QCBB는 양자 최적화의 샘플링 정보를 고전적 분기‑한계 메커니즘에 체계적으로 통합함으로써, 양자‑고전 하이브리드 최적화의 새로운 설계 패러다임을 제시한다.