자원 효율을 높인 적응형 믹서 할당 QAOA+ 알고리즘

초록

본 논문은 제약 조합 최적화 문제를 해결하기 위한 QAOA+의 믹서 연산을 전체 큐비트에 적용하는 대신, 평가 함수에 기반해 매 레이어마다 부분 집합에만 적용하는 적응형 믹서 할당 전략(AMA‑QAOA+)을 제안한다. 최대 독립 집합(MIS) 문제에 대해 수치 시뮬레이션을 수행한 결과, 동일한 최적화 실행 횟수에서 QAOA+ 대비 근사 비율이 약 5 % 향상되고, CNOT 게이트 사용량은 ER 그래프에서 84 % 이상, 3‑regular 그래프에서 75 % 이상 절감되는 등 해의 품질과 회로 자원 효율 모두 크게 개선되었다.

상세 분석

AMA‑QAOA+는 기존 QAOA+가 매 레이어마다 전체 믹서 해밀토니안을 적용해 발생하는 과도한 게이트 비용을 근본적으로 완화한다. 핵심 아이디어는 “평균 그래디언트”와 “다중 무작위 파라미터 샘플에 대한 평균 기대값”을 동시에 고려한 복합 평가 함수를 정의하고, 사전에 정의된 믹서 연산자 풀(pool)에서 이 값을 최대화하는 연산자를 선택하는 것이다. 이렇게 선택된 연산자는 여러 개가 순차적으로 누적된 뒤에 한 번에 파라미터 최적화가 수행되므로, 기존 적응형 VQE·QAOA 방식에서 매 연산자마다 최적화를 반복하던 비효율성을 크게 줄인다.

알고리즘 흐름은 다음과 같다. (1) 초기 회로는 매우 얕은 깊이(p=1)로 시작하고, (2) 각 레이어마다 후보 믹서 연산자를 평가함—평균 그래디언트는 파라미터 변화에 대한 민감도를, 평균 기대값은 현재 파라미터 분포에서의 성능을 반영한다. (3) 평가 점수가 높은 연산자를 일정 수(k)만큼 선택해 회로에 삽입하고, (4) 전체 회로에 대해 고전적 옵티마이저(예: COBYLA, Adam)로 파라미터를 재조정한다. 이 과정을 수렴 조건이 만족될 때까지 반복한다.

실험에서는 MIS 문제를 대표 사례로 채택했으며, ER(연결 확률 0.5) 및 3‑regular 무작위 그래프에 대해 8~14개의 정점 규모를 대상으로 100번의 최적화 실행을 수행했다. 결과는 세 가지 측면에서 두드러진 개선을 보여준다. 첫째, 근사 비율(AR)은 QAOA+ 대비 평균 5.30 % (ER)와 5.41 % (3‑regular) 상승했으며, 이는 제한된 파라미터 탐색에서도 더 높은 품질의 해를 찾을 수 있음을 의미한다. 둘째, CNOT 게이트 수는 각각 15.30 %와 25.18 % 수준으로 감소했는데, 이는 전체 게이트 수 대비 84.70 %·74.82 % 절감에 해당한다. 셋째, 전체 최적화 반복 횟수(Iteration)도 Adaptive‑QAOA+ 대비 35 %~49 % 감소해 실행 시간과 비용을 동시에 낮추었다.

또한, 무작위 선택 믹서(PNU)와 기존 Adaptive‑QAOA+와의 비교 실험을 통해 AMA‑QAOA+가 단순 확률적 서브셋 적용이나 단일 기준 그래디언트 기반 선택보다 일관적으로 우수함을 확인했다. 한계점으로는 평가 함수에 사용되는 샘플 수와 연산자 풀의 크기가 성능에 민감하게 작용한다는 점이며, 대규모 문제(수백~수천 정점)에서는 샘플링 비용이 급증할 가능성이 있다. 향후 연구에서는 동적 연산자 풀 확장, 메타러닝 기반 평가 함수 설계, 그리고 실제 양자 하드웨어에서의 잡음 내성 검증이 필요하다.