제약 없는 데이터 기반 양자 최적화와 Tchebycheff 다목적 설계

초록

본 논문은 데이터‑드리븐 QUBO 모델에 두 가지 혁신적 전처리·스칼라화 기법을 도입한다. 첫째, Constraint‑guided Feature Mapping(CGFM)으로 시스템 수준의 합동 제약을 완전히 제거해 소프트 페널티 없이 QUBO를 구성한다. 둘째, Data‑driven Tchebycheff Scalarization(DDTS)으로 비볼록 다목적 문제를 단일 목표로 변환해 기존 가중합 방식의 한계를 극복한다. 알루미늄 합금 다상 설계 사례를 통해 계산 효율과 파레토 전선 품질이 크게 향상됨을 보였다.

상세 분석

이 논문은 현재 양자 최적화, 특히 QA와 QAOA와 같은 QUBO 기반 접근법이 직면한 두 가지 핵심 병목을 정확히 짚는다. 첫 번째는 시스템‑레벨 평등 제약(예: 합금 조성의 총합 100 %)을 구현하기 위해 도입되는 소프트 페널티 항이 QUBO의 에너지 스케일을 압축하고, 임베딩 비용을 급증시켜 양자 하드웨어의 동적 범위와 정밀도를 크게 저하시킨다. 저자들은 이를 해결하기 위해 CGFM이라는 전처리 스킴을 제안한다. CGFM은 데이터‑드리븐 FM+QO 파이프라인이 사전에 학습된 QUBO 모델을 직접 다루지 않으며, 대신 학습 데이터 자체를 제약을 만족하는 서브스페이스로 제한한다. 구체적으로 연속형 설계 변수(예: 각 상의 부피 비율)를 정규화하고, 그 합이 1이 되도록 정규화된 벡터를 직접 생성한 뒤, 원‑핫 인코딩을 적용한다. 이렇게 하면 제약을 만족하지 않는 비실현 해는 처음부터 검색 공간에 포함되지 않으므로, QUBO 식에 별도의 제곱 페널티를 추가할 필요가 없어진다. 결과적으로 QUBO 변수 수가 감소하고, 하드웨어 매핑 시 필요한 체인 길이와 커플링 강도가 크게 완화된다.

두 번째 병목은 다목적 최적화에서 흔히 사용되는 가중합(Weighted‑Sum) 스칼라화가 비볼록 파레토 전선을 제대로 탐색하지 못한다는 점이다. 저자들은 Tchebycheff 스칼라화 기법을 데이터‑드리븐 방식으로 적용한 DDTS를 설계한다. 전통적인 Tchebycheff 방법은 연속형 목표 함수에 직접 적용되지만, QUBO 형태에서는 비선형 연산이 제한된다. 여기서는 FM 모델 학습 전, 원시 데이터 셋에 대해 각 목표값을 정규화하고, 목표 벡터와 기준점 사이의 최대 절대 편차를 최소화하는 형태로 변환한다. 이렇게 얻어진 단일 스칼라 목표는 FM+QO 루프에 그대로 투입될 수 있어, 비볼록 목표 공간에서도 효율적인 탐색이 가능하다.

실험에서는 5개의 물성(열전도도 κ, 영률 E, 밀도 ρ, 열팽창계수 α, 고화 구간 ΔT)를 동시에 최적화하는 알루미늄 합금 설계 문제를 사용한다. 규칙‑혼합 모델과 간단한 상도표 근사를 통해 합성 데이터를 생성하고, CGFM으로 제약을 사전 제거한 뒤, DDTS 기반 Tchebycheff 스칼라화를 적용한다. 결과는 (1) QUBO 변수 수와 임베딩 체인 길이가 평균 30 % 감소, (2) 솔버 실행 시간이 2‑3배 가량 단축, (3) 가중합 방식 대비 파레토 전선의 커버리지가 15 % 이상 향상됨을 보여준다.

이러한 접근법은 QUBO 기반 양자 최적화가 실제 산업·재료 설계에 적용될 때 필연적으로 마주치는 제약 처리와 다목적 스칼라화 문제를 근본적으로 완화한다는 점에서 큰 의미를 가진다. 다만, 현재 실험은 합성 데이터와 간소화된 물성 모델에 국한되어 있어, 실제 실험 데이터와 복잡한 비선형 물성 모델에 대한 확장 가능성은 추가 검증이 필요하다. 또한, CGFM이 제약을 완전히 제거한다는 전제는 제약이 선형·평등 형태일 때만 적용 가능하므로, 부등식 제약이나 비선형 제약에 대한 일반화는 향후 연구 과제로 남는다.