양자 컴퓨팅을 위한 QUBO 최적화: 슬랙 변수 90% 절감 혁신

초록

본 논문은 NISQ 디바이스에서 효율적인 최적화를 가능하게 하는 두 가지 새로운 QUBO 변환 기법, ‘Iterative Quadratic Polynomial’과 ‘Master‑Satellite’ 방법을 제안한다. 이 기법들은 슬랙 변수 사용을 최소화하여 기존 방식 대비 약 90% 적은 변수로 NP‑hard 금융 문제인 Max‑Profit Balance Settlement(MPBS)를 양자 어닐링에 적용한다. D‑Wave Advantage와 Advantage2 양자 어닐러에서 실험한 결과, 제안 방법이 성공률을 7배에서 184배까지 크게 향상시켰으며, 특히 입력 규모가 커져도 성능 저하가 완만함을 확인하였다.

상세 분석

논문은 먼저 QUBO(Quadratic Unconstrained Binary Optimization) 문제의 정의와 기존의 제약식 변환 방식이 슬랙 변수를 대량으로 필요로 하는 구조적 한계를 상세히 분석한다. 전통적인 방법은 모든 부등식 제약을 등식 형태로 바꾸기 위해 선형 슬랙 변수 집합 S_j(s) 를 도입하고, 큰 페널티 λ를 곱한 2차 항 −(IC_j(x)+S_j(s))^2 로 제약을 강제한다. 이 과정에서 슬랙 변수 수는 제약식의 범위와 정수값에 비례해 급증하며, 특히 복잡한 비선형 제약을 다룰 경우 변수 폭이 폭발한다.

제안된 ‘Iterative Quadratic Polynomial’(IQP) 방법은 제약식을 직접 2차 다항식 형태로 재구성한다. 구체적으로, 각 제약식 EC_i(x)·=0 혹은 IC_j(x)≤0에 대해, 해당 식을 제곱하지 않고도 부정적인 페널티를 제공하는 다항식 P_i(x) = −f_i(x)·(1−f_i(x)) 형태를 설계한다. 여기서 f_i(x) 는 제약식의 정규화된 값이며, 이 다항식은 제약 위반 시 -1 이하, 만족 시 0을 반환한다. 따라서 추가 슬랙 변수가 필요 없으며, 페널티 λ만 적절히 조정하면 기존 방식과 동등한 제약 강제력을 확보한다.

‘Master‑Satellite’(MS) 방법은 여러 제약이 동일한 변수 집합에 동시에 적용될 때 발생하는 중복 슬랙 변수 문제를 해결한다. 마스터 변수 집합 M 은 공통 제약에 사용되는 핵심 바이너리 변수이며, 각 서브 제약(위성) S_k 는 M에 대한 작은 보조 변수 집합으로 구성된다. 슬랙 변수는 각 위성 제약마다 별도로 도입되지 않고, 위성별 페널티를 마스터 변수와의 상호작용 항으로 표현한다. 이때 페널티 가중치 λ_k는 제약의 중요도와 위성 간 상관관계에 따라 동적으로 조정되며, 논문은 λ_k 선택을 위한 두 가지 휴리스틱(그리드 탐색과 라그랑주 승수 추정)을 제시한다.

또한, 세 개 이상 제약이 동일 변수에 겹칠 경우를 위한 ‘Generalized Master‑Satellite’ 확장을 제시한다. 이 확장은 다중 위성 간의 교차 페널티 항을 추가함으로써 제약 충돌을 방지하고, 전체 QUBO 행렬의 희소성을 유지한다.

실험에서는 금융 분야의 NP‑hard 문제인 Max‑Profit Balance Settlement(MPBS)를 사례 연구로 채택한다. MPBS는 거래 파티 간의 결제 흐름을 최적화하면서 각 파티의 현금 흐름 제약을 만족시켜야 하는 복합 제약 문제이다. 기존 표준 변환은 평균 1,200개의 슬랙 변수를 필요로 했으나, IQP와 MS 기법을 결합하면 평균 120개의 슬랙 변수만으로 동일 문제를 표현한다(≈90% 감소).

양자 어닐러 실험에서는 D‑Wave Advantage와 차세대 Advantage2 프로토타입을 사용하였다. 동일 QUBO 인스턴스를 두 장치에 각각 1,000번 실행했을 때, 표준 변환 대비 성공률(최적 해 도달 비율)이 Advantage에서는 평균 7배, Advantage2에서는 최대 184배 향상되었다. 특히 입력 규모가 2배 증가해도 성공률 감소율이 표준 방식에 비해 0.3배 수준에 머물렀다. 이는 슬랙 변수 감소가 양자 비트 연결도와 잡음에 대한 민감도를 크게 낮추었기 때문이다.

마지막으로, 논문은 ADMM, Augmented Lagrangian, 근사 제약 스케일링 등 기존 슬랙 감소 기법과 비교하여, 제안 방법이 사전 QUBO 해결 단계가 필요 없고, 비선형·비정수 제약을 그대로 처리할 수 있다는 점에서 이론적·실용적 우위를 갖는다고 주장한다.