다양한 실세계 데이터에 적용 가능한 변분 양자 커널 프레임워크

초록

본 논문은 고차원 실세계 데이터에 대한 양자 커널의 실용성을 검증하기 위해, 로그 2 (d) 개의 큐비트만을 사용하는 효율적인 변분 양자 커널 프레임워크와 파라미터 스케일링 기법을 제안한다. 8개의 서로 다른 도메인(표형, 이미지, 시계열, 그래프) 데이터셋에 대해 클래식 시뮬레이션 환경에서 RBF 커널 등 기존 클래식 커널과 비교 실험을 수행했으며, 제안된 양자 커널이 정확도 면에서 경쟁력을 보임을 확인하였다.

상세 분석

본 연구는 양자 커널 설계 시 가장 큰 영향을 미치는 요소가 데이터 인코딩이라는 기존 문헌의 결론을 그대로 받아들여, 두 가지 인코딩 방식을 체계적으로 비교한다. 첫 번째는 로그 2 (d) 큐비트만을 필요로 하는 amplitude encoding(QAmp)이며, 두 번째는 고전 RBF 커널의 수학적 형태를 양자 코히런트 상태의 절단 버전으로 구현한 truncated RBF encoding(QRBF)이다. QAmp은 입력 벡터를 순환 복제 후 L2 정규화하여 진폭에 매핑함으로써, 고차원 데이터에서도 효율적인 메모리 사용을 가능하게 한다. QRBF는 파라미터 c (길이 스케일)와 함께 입력을 코히런트 상태 파라미터 α = x/(√2 c) 로 변환하고, 4차원(2 큐비트) 힐베르트 공간에 첫 D = 4개의 포크 기반을 사용해 근사한다. 실험 결과, 두 인코딩 모두 데이터 특성에 따라 성능 차이를 보였으며, 특히 고차원 유전 데이터(TCGA‑LGG)와 이미지 데이터(Fashion‑Tshirt/Shirt)에서는 QRBF가 RBF 커널에 근접한 정확도를 달성했다.

변분 ansatz는 N 큐비트에 L 레이어를 쌓아 구성되며, 각 레이어는 모든 큐비트에 대해 파라미터화된 RY 회전과 데이터‑스케일링된 RZ 회전을 적용한 뒤, 원형 체인 형태의 CNOT으로 얽힌다. 전체 파라미터 수는 2 · N · L이며, 깊이는 O(LN)이다. 저자들은 RZ 회전의 각도에 전역 스케일 파라미터 s 를 도입해 학습 안정성을 향상시키고 수렴 속도를 가속화하였다. s 는 학습 중 최적화되지 않고, 각 데이터셋에 대해 하이퍼파라미터 탐색으로 결정한다. 이 설계는 기존 연구에서 강조된 “데이터‑재업로드” 방식을 유지하면서, 파라미터 스케일링을 통해 과도한 파라미터 공간으로 인한 최적화 난이도를 완화한다.

벤치마크는 8개의 데이터셋을 네 가지 카테고리(표형, 이미지, 시계열, 그래프)와 다섯 분야(의학, 물리, 화학, 생물, 컴퓨터 과학)로 구성한다. 각 데이터셋은 최소한의 차원 축소와 표준화 과정을 거쳐, 원본 특성 공간을 최대한 보존한다. 실험 파이프라인은 scikit‑learn 기반 전처리 → 양자 커널 매트릭스 생성(시뮬레이션) → Kernel‑Target Alignment(KTA) 최적화 → SVM(선형) 분류기로 구성된다. KTA는 양자 커널과 라벨 간의 정렬도를 측정해 파라미터 p 를 업데이트하는 목적 함수이며, Adam 옵티마이저를 사용한다.

성능 평가는 정확도, F1‑score, 그리고 클래식 커널(RBF, 선형, 다항식) 대비 상대 향상률로 이루어진다. 결과는 대부분의 데이터셋에서 QAmp 또는 QRBF가 RBF 커널과 동등하거나 약간 우수한 성능을 보였으며, 특히 고차원 유전 데이터와 그래프 데이터(MUTAG, PROTEINS)에서 양자 커널이 더 높은 KTA 값을 달성해 일반화 능력이 향상된 것을 확인했다. 또한, L = 5, N = log₂(d) 수준의 작은 리소스로도 충분한 표현력을 확보함을 실증하였다.

한계점으로는 모든 실험이 고전 시뮬레이션 환경에서 수행되었으며, 실제 양자 하드웨어에서 발생할 수 있는 노이즈, 게이트 오류, 큐비트 연결 제약 등을 고려하지 않았다는 점을 명시한다. 또한, 파라미터 s 의 최적값 탐색이 데이터셋마다 별도로 수행돼 자동화된 하이퍼파라미터 튜닝 기법이 필요함을 지적한다. 향후 연구에서는 하드웨어‑친화적 인코딩, 더 깊은 변분 구조, 그리고 그래프‑특화 양자 피처 맵 등을 탐색할 계획이다.