양자 컴퓨터용 간선 기반 서브스페이스 축소 인코딩으로 해결하는 여행 판매원 문제

초록

**
본 논문은 여행 판매원 문제(TSP)를 양자 컴퓨터에서 해결하기 위해 기존 노드 기반 인코딩보다 적은 큐비트를 요구하는 간선 기반 인코딩 방식을 제안한다. 또한, 합법적인 경로만을 포함하는 서브스페이스로 차원을 축소하는 서브스페이스 축소 인코딩(SRE)을 도입해 실제 양자 장치에서의 실행 효율을 높였다. 4·5·6 도시 인스턴스에 대해 QAOA와 시뮬레이터, 그리고 IQM 실장치를 이용한 실험을 수행했으며, 작은 규모 TSP에서 제안 방식이 통계적 성능·큐비트 사용량·연산 효율 모두에서 기존 노드 기반 방법을 능가함을 확인했다.

**

상세 분석

**
이 논문은 양자 최적화 분야에서 오래된 난제인 여행 판매원 문제(TSP)를 양자 게이트 기반 컴퓨터에 효율적으로 매핑하기 위한 두 가지 새로운 인코딩 스킴을 제시한다. 첫 번째는 간선 기반 인코딩(edge‑encoding) 으로, 도시 간의 이동을 나타내는 간선을 직접 변수화한다. 기존의 노드 기반 인코딩은 n개의 도시마다 n·n개의 이진 변수(즉, n² 큐비트)를 필요로 하는 반면, 간선 기반 인코딩은 각 도시를 방문 순서에 따라 로그₂(n‑1) 비트로 표현함으로써 전체 큐비트 수를 (n‑1)·⌈log₂(n‑1)⌉ 로 축소한다. 이는 특히 n이 커질수록 지수적인 절감 효과를 보이며, 실제 구현 시 양자 회로 깊이도 감소한다는 장점을 가진다.

간선 기반 인코딩의 핵심은 대각 행렬의 텐서 곱을 이용해 비용 해밀토니안을 직접 구성하는 것이다. 비용 행렬 L을 대각 행렬 D₁, D₂, C 로 변환하고, 이들을 ⊗ 연산으로 결합해 H_edge 를 만든다. 여기서 D₁, D₂는 시작·종료 간선 비용을, C는 중간 간선 비용을 담당한다. 또한, 동일 도시를 두 번 방문하거나 가짜 도시(fake city)를 포함하는 경우에 큰 패널티 γ·P 를 추가해 불법 경로의 에너지를 인위적으로 끌어올린다. 이렇게 구성된 H_edge 는 완전히 대각 형태이므로, QAOA와 같은 변분 알고리즘이 최소 고유값을 찾을 때 복잡한 비대각 상호작용을 피할 수 있다.

두 번째는 서브스페이스 축소 인코딩(Subspace Reduction Encoding, SRE) 으로, 간선 기반 인코딩이 만든 전체 탐색 공간에서 합법적인 (n‑1)! 경로만을 미리 선별해 차원을 K = ⌈log₂(n!)⌉ 로 제한한다. 이를 위해 논문은 “법적 경로만을 포함하는 대각 행렬”을 구성하고, 해당 서브스페이스에 대한 변분 파라미터 최적화를 수행한다. 결과적으로, 최적해가 존재하는 서브스페이스에만 탐색을 제한함으로써 수렴 속도가 크게 향상되고, 실제 양자 하드웨어에서의 오류 누적을 최소화한다.

실험 부분에서는 4·5·6 도시 인스턴스를 대상으로 QAOA(p=13)와 시뮬레이터, 그리고 IQM 사의 초고성능 초전도 큐비트 장치를 사용했다. 4 도시 경우는 실제 양자 장치에서 최적 해를 성공적으로 재현했으며, 5·6 도시에서는 시뮬레이터 상에서 최적에 근접한 해를 얻었다. 성능 평가지표로는 해의 성공률, 기대 비용, 표준편차, 회로 깊이, 큐비트 수 등을 사용했으며, 모든 지표에서 간선 기반·SRE 조합이 노드 기반 대비 평균 2035% 정도의 개선을 보였다. 특히, 큐비트 수는 노드 기반(예: 4 도시 → 16 큐비트) 대비 간선 기반은 6 큐비트, SRE는 5 큐비트로 크게 절감되었다.

이 논문의 주요 기여는 다음과 같다.

1. 큐비트 효율성: 로그₂ 스케일의 비트 할당으로 n² → (n‑1)·⌈log₂(n‑1)⌉ 로 감소.
2. 대각 해밀토니안 설계: 텐서 곱을 이용한 비용 행렬 직접 매핑으로 구현 복잡도 최소화.
3. 서브스페이스 축소: 합법 경로만을 포함하는 저차원 서브스페이스에 탐색을 제한해 수렴 속도와 실험 신뢰도 향상.
4. 실제 하드웨어 검증: IQM 양자 컴퓨터에서 4 도시 최적 해를 성공적으로 구현, 실용 가능성을 입증.

한계점으로는 현재 실험이 6 도시 이하의 작은 인스턴스에 국한되어 있어, 대규모 TSP에 대한 확장성 검증이 부족하다는 점이다. 또한, 패널티 파라미터 γ 선택이 문제마다 민감하게 작용할 수 있어 자동 튜닝 메커니즘이 필요하다. 향후 연구에서는 다중 단계 QAOA(p>3) 와 오류 보정 기법을 결합해 더 큰 인스턴스에 적용하고, 동적 서브스페이스 탐색을 통해 최적 경로 후보를 점진적으로 확대하는 전략을 모색할 수 있다.

**