기하학적 전처리와 커리큘럼 최적화 기반 하이브리드 양자 회귀

초록

본 논문은 경량 클래식 임베딩을 입력 전처리 단계에 두어 양자 회로의 조건을 개선하고, 회로 깊이를 단계적으로 늘리며 SPSA에서 Adam으로 전환하는 커리큘럼 학습을 결합한 하이브리드 양자‑클래식 회귀 프레임워크를 제안한다. PDE 기반 과학 데이터와 일반 회귀 벤치마크에서 고정된 학습 예산 하에 순수 양자 모델보다 안정적인 수렴과 향상된 정확도를 보이며, 특히 데이터가 제한된 상황에서 구조적 오차 감소 효과를 확인하였다.

상세 분석

이 연구는 양자 회귀 모델이 직면하는 두 가지 핵심 문제, 즉 노이즈가 섞인 그래디언트에 의한 학습 불안정성과 깊은 회로에서 발생하는 barren plateau 현상을 동시에 해결하려는 시도로 평가할 수 있다. 첫 번째 해결책은 “기하학적 전처리(geometric preconditioning)”라는 개념으로, 입력 데이터를 저차원 잠재 공간으로 매핑하는 경량 MLP를 도입한다. 이 MLP는 파라미터 수를 제한하고 잠재 차원을 양자 인코딩에 필요한 차원(p = n_q)과 일치시킴으로써, 양자 회로가 직접 고차원 데이터를 인코딩해야 하는 부담을 감소시킨다. 입력 변환이 학습 가능하도록 설계된 점은, 전통적인 고정 인코딩 방식이 특정 문제의 입력 기하학에 최적화되지 못해 최적화 경관이 비정상적으로 악조건화되는 것을 방지한다. 즉, MLP가 입력 공간을 ‘전처리’함으로써 양자 파라미터에 대한 손실 함수의 조건수가 개선되고, 이는 곧 그래디언트 분산 감소와 학습 속도 향상으로 이어진다.

두 번째 핵심은 커리큘럼 기반 최적화 프로토콜이다. 초기 단계에서 SPSA(Stochastic Perturbation Stochastic Approximation)를 사용해 파라미터 차원에 관계없이 두 번의 손실 평가만으로 대략적인 탐색을 수행한다. SPSA는 파라미터‑시프트 규칙에 비해 샷 수가 제한된 시뮬레이션 환경에서 비용 효율적이며, 특히 초기 깊이(L = 1)에서의 급격한 손실 변동을 완화한다. 일정 횟수(T_SPSA) 후에는 Adam 옵티마이저로 전환해 파라미터‑시프트를 이용한 정확한 그래디언트를 계산한다. 여기서 중요한 점은 양자 파라미터와 클래식 파라미터를 각각 다른 미분 전략으로 처리한다는 점이다. 클래식 파라미터는 자동 미분, 양자 파라미터는 파라미터‑시프트 규칙을 적용해 하이브리드 그래디언트를 얻는다. 또한, 회로 깊이를 단계적으로 증가시키는 “layer‑wise growth”를 도입해 모델 용량을 점진적으로 확장한다. 각 깊이 단계마다 초기화는 아이덴티티 스타일(θ_new≈0)로 수행해 barren plateau 위험을 최소화한다. 이러한 두 단계와 깊이 증가 스케줄은 ‘탐색‑정제’ 사이클을 형성해, 초기의 높은 변동성을 억제하고 후반부에 미세 조정을 가능하게 한다.

실험 설계는 두 가지 축을 중심으로 한다. 첫째, PDE‑기반 과학 회귀(2D/3D 파동·열 방정식 등)에서 입력이 공간 좌표와 파라미터로 구성된 고차원 데이터셋을 사용해, 전통적인 양자 회귀와 비교했을 때 수렴 속도와 최종 MSE가 유의미하게 개선되었음을 보여준다. 특히, 데이터가 제한된 상황(수백 개 이하)에서 구조적 오차가 감소하고, 오실레이터 성분을 포함한 솔루션에서 시각적으로 잡음이 감소한다는 점이 강조된다. 둘째, UCI와 같은 표준 회귀 벤치마크에서도 동일한 커리큘럼을 적용했으며, 시뮬레이터 환경에서 고정된 샷 수와 학습 예산(총 파라미터 업데이트 횟수) 하에 순수 양자 모델보다 일관된 성능 향상을 기록한다. Ablation study에서는 클래식 임베딩을 제거하거나 SPSA 단계 없이 바로 Adam으로 학습할 경우, 손실 진동이 커지고 최종 정확도가 떨어지는 현상이 관찰된다. 이는 제안된 두 요소가 상호 보완적으로 작용함을 실증한다.

이 논문의 주요 기여는 다음과 같다. (1) 입력 전처리를 담당하는 저용량 클래식 임베딩을 ‘기하학적 전처리’라는 명확한 목적 하에 설계함으로써 양자 회로의 조건을 개선한다. (2) SPSA와 Adam을 결합하고 회로 깊이를 단계적으로 늘리는 커리큘럼 최적화 프로토콜을 제시해, 노이즈가 섞인 손실 평가 환경에서도 안정적인 학습을 가능하게 한다. (3) 과학적 회귀와 일반 회귀 두 영역에서 광범위한 실험을 수행해, 제안 방법이 데이터 제한 상황에서 특히 유리함을 입증한다. 향후 연구에서는 실제 양자 하드웨어에서의 노이즈와 커넥티비티 제약을 고려한 확장과, 대규모 클래식 베이스라인과의 경쟁력을 평가하는 방향이 제시된다.