불평등 제약과 다목표 양자 최적화를 위한 엄밀한 프레임워크

초록

본 논문은 이진 최적화 문제에서 불평등 제약을 다목표 최적화로 변환하고, 이를 양자 해법에 직접 적용할 수 있는 MOQA(Multi‑Objective Quantum Approximation) 프레임워크를 제안한다. ℓₚ‑노름을 이용한 근사 Hamiltonian을 정의하고, 스펙트럼 갭 비율에 기반한 이론적 보장을 제공한다. 실험을 통해 근사 정확도와 p값 사이의 관계를 확인하였다.

상세 분석

논문은 먼저 기존 양자 최적화가 주로 QUBO와 같은 무제약 이진 문제에 초점을 맞추었으며, 불평등 제약을 다루기 위해 슬랙 변수 도입, 라그랑주 승수, 페널티 함수 등 다양한 방법이 제안됐지만 보조 큐비트 필요성이나 엄격한 이론적 보장이 부족함을 지적한다. 저자들은 불평등 제약 g(b)≥0 를 ReLU 형태인 max{0,−g(b)} 로 정규화하고, 이를 기존 목적함수 h(b)와 결합해 h₁(b)=h(b), h₂(b)=h(b)−γg(b) 로 두 개의 목적함수로 변환한다. 이렇게 하면 원래의 제약 최적화가 “max{h₁(b),h₂(b)}” 형태의 다목표 최적화 문제로 재구성된다.

다목표 문제를 양자 수준에서 다루기 위해 저자들은 각 목적함수 hₘ(b) 를 k‑local Ising‑type Hamiltonian Ĥₘ 으로 매핑하고, 최대 연산을 ℓₚ‑노름 근사로 대체한다. 구체적으로 Ĥ_max = max{Ĥ₁,…,Ĥ_M} 를 Ĥ(p)=∑ₘ Ĥₘ^p 로 정의하고, 이때 p‑th 루트를 취해 원래의 최대값을 근사한다. Proposition 1은 모든 이진 벡터에 대해 M^{−1/p}·Ĥ(p)^{1/p} ≤ Ĥ_max ≤ Ĥ(p)^{1/p} 라는 ℓₚ‑노름 불평등을 이용해 근사의 절대·상대 오차를 제시한다. 이는 p가 로그(M) 정도이면 상수 수준의 근사 정확도를 얻을 수 있음을 의미한다.

Theorem 1은 스펙트럼 갭 비율 r(Ĥ_max)= (λ₂−λ₁)/λ₁ 를 도입해, p > log(M)/log(r(Ĥ_max)+1) 를 만족하면 Ĥ(p) 가 동일한 그라운드 스페이스를 갖는다고 증명한다. 즉, 원 문제의 스펙트럼 갭이 충분히 크면 낮은 차수(p=polylog n) 근사 Hamiltonian 만으로도 양자 어다배틱 혹은 QAOA와 같은 알고리즘이 정확히 최적 해를 찾을 수 있다.

복잡도 측면에서 k‑local Hamiltonian이 p‑차 전력으로 확장되면 locality가 kp 로 증가하고, 항(term) 수는 T·p (T≤n^k) 로 다항식적으로 늘어난다. QUBO(k=2)의 경우 2p‑local Hamiltonian에 최대 n^{2p} 항이 필요하므로, p가 작을수록 물리적 구현이 용이하다. 저자들은 중성 원자와 트랩 이온 같은 다중 큐비트 게이트가 가능한 플랫폼을 예시로 제시한다.

실험에서는 n=6, 16 변수 QUBO에 선형 불평등 제약을 추가한 인스턴스를 무작위 생성하고, p=5,10,20 에 대해 Ĥ(p) 의 근사 오차와 스펙트럼 갭 비율을 측정했다. 결과는 p가 증가할수록 근사 오차가 급격히 감소하고, 이론적 임계값을 초과하면 오차가 0에 수렴함을 보여준다. 이는 MOQA가 실제 양자 하드웨어에서도 효율적으로 적용될 수 있음을 시사한다.

전체적으로 이 논문은 불평등 제약을 다목표 형태로 변환하고, ℓₚ‑노름 기반의 Hamiltonian 근사를 통해 양자 최적화에 직접 적용할 수 있는 체계적이고 이론적으로 보장된 방법을 제공한다는 점에서 의미가 크다.