비볼록 QCQP 완화를 위한 학습 기반 선택기

초록

본 논문은 비볼록 이차제한 이차계획(QCQP) 문제에 대해 선형(LP) 완화와 반정밀반정( SDP) 완화 중 어느 것이 더 효율적인지를 인스턴스의 구조적 특징을 이용해 예측하는 기계학습 프레임워크를 제안한다. 스펙트럼 특성, 희소성, 변수 구간 정보를 기반으로 설계한 세 가지 피처 집합(완전 차원 의존, 반 차원 의존, 차원 독립)을 활용해 분류·회귀 모델을 학습하고, 합성 데이터와 MINLPLib 벤치마크를 통해 높은 정확도를 입증한다.

상세 분석

이 논문은 비볼록 QCQP의 두 주요 완화 기법인 LP(맥코믹 엔벨롭)와 SDP(반정밀반정) 사이의 상대적 강도를 사전에 판단할 수 있는 메타 모델을 구축한다는 점에서 의미가 크다. 기존 연구들은 각각의 완화가 특정 문제군에서 강력함을 이론적으로 증명했지만, 일반적인 인스턴스에 대해 어느 완화가 우수한지 자동으로 결정하는 방법은 제시되지 않았다. 저자들은 이를 해결하기 위해 먼저 QCQP 인스턴스를 수치적·구조적 특성으로 변환하는 피처 엔지니어링을 수행한다. 스펙트럼 피처는 각 제약 행렬 A_k의 최소·최대 고유값, 고유값 분포의 평균·분산 등을 포함하며, 이는 행렬이 양정(positive semidefinite)인지 혹은 부정(negative semidefinite)인지를 반영한다. 희소성 피처는 비대각 원소의 비율, 행/열당 평균 비제로 원소 수 등을 측정해 행렬의 밀집 정도를 정량화한다. 또한 변수 구간(l, u)의 존재 여부와 폭을 이용해 경계 기반 피처를 추가함으로써, LP 완화가 경계 정보를 얼마나 활용할 수 있는지를 평가한다.

세 가지 피처 설계 방식은 차원 의존성에 따라 구분된다. 완전 차원 의존(fDD) 방식은 n·m 규모의 원시 피처를 그대로 사용해 가장 풍부한 정보를 제공하지만, 학습된 모델은 동일한 변수·제약 수를 가진 데이터셋에만 적용 가능하다. 반 차원 의존(sDD) 방식은 행/열별 통계량을 평균·표준편차 등으로 집계해 변수 수에 대한 의존성을 완화하고, 차원 독립(DI) 방식은 전체 행렬의 스펙트럼 요약과 전체 희소성 비율만을 사용해 고정된 길이의 피처 벡터를 만든다. DI 피처는 특히 새로운 규모의 QCQP에 대해 즉시 예측이 가능하도록 설계되었다.

학습 모델은 두 가지 형태로 구현되었다. 첫째는 전통적인 지도학습 분류기(예: 랜덤 포레스트, XGBoost)와 회귀기(예: 라쏘 회귀)이며, 두 번째는 그래프 신경망(GNN) 기반 모델이다. GNN은 변수와 제약을 각각 노드로, 행렬 원소를 엣지로 보는 이중 그래프 구조를 구성해, 구조적 정보를 자동으로 추출한다. 실험 결과, 전통적인 피처 기반 모델이 특히 DI 설정에서 GNN보다 높은 정확도를 보였으며, 이는 도메인 지식에 기반한 피처가 충분히 강력함을 시사한다.

성능 평가에서는 합성 데이터(다양한 스펙트럼 분포와 희소성 수준을 갖는 랜덤 생성 QCQP)와 MINLPLib에 수록된 실제 문제들을 사용했다. 분류 정확도는 DI 설정에서 85 % 이상, fDD 설정에서는 92 %에 달했으며, 회귀 모델은 두 완화 간의 목표값 차이를 평균 5 % 이하의 오차로 예측했다. 또한, 완화를 사전에 선택함으로써 전체 최적화 파이프라인의 실행 시간을 평균 30 % 절감하는 효과도 확인되었다.

이 연구는 (1) QCQP 인스턴스의 구조적 특성을 정량화하는 피처 설계, (2) 차원 독립적인 메타 모델 구축, (3) 실제 최적화 워크플로우에 적용 가능한 완화 선택기 구현이라는 세 축을 통해 비볼록 이차계획 문제 해결에 새로운 데이터‑드리븐 접근법을 제시한다. 향후 연구에서는 더 복잡한 반정밀반정 변형(예: 다중 단계 SDP)이나 다른 비선형 완화(예: SOCP)와의 비교, 그리고 온라인 학습을 통한 동적 선택 전략을 탐색할 여지가 있다.