양자‑고전 하이브리드 모델 설계 시 핵심 요소의 중요성

초록

본 논문은 변분 양자 회로의 깊이와 양자 특징 매핑 방식이 혼합 양자‑고전 신경망의 인과 분류 성능에 미치는 영향을 체계적으로 조사한다. CNN 기반 전처리 뒤에 3‑큐비트 TwoLocal ansatz를 적용하고, 9가지 특징 매핑을 비교 실험한다. 깊이가 증가할수록 일반화와 학습 안정성이 향상되지만 일정 깊이 이후 수익이 포화한다. 다축 Pauli 회전을 포함한 복합 매핑만이 성공적인 학습을 가능하게 하며, 단순 매핑은 차원 붕괴와 군집 형성 실패를 초래한다. PCA와 실루엣 점수를 통해 데이터 분포 변화를 정량화하고, 설계 가이드라인을 제시한다.

상세 분석

이 연구는 하이브리드 양자‑고전 신경망(HQNN)의 두 핵심 설계 변수, 즉 변분 ansatz의 깊이와 양자 특징 매핑(feature map)의 구조적 복잡성을 정량적으로 평가한다. CNN으로 8×8 히트맵을 64차원 특징 벡터로 추출한 뒤, 선형 레이어를 통해 3‑큐비트 입력으로 차원을 축소한다. 이후 Qiskit‑ML 기반 TwoLocal ansatz를 사용해 깊이 d(1∼5) 만큼 반복하고, 각 레이어는 Ry‑Rz 단일 큐비트 회전과 인접 CNOT 얽힘을 포함한다. 특징 매핑은 Z‑rotation 단순형, ZZ‑entanglement형, 그리고 Rx‑Ry‑Rz 다축 회전형 등 9가지로 구성된다. 실험 결과, ansatz 깊이가 1→3일 때 학습 손실이 급격히 감소하고 검증 정확도가 5%p 상승하지만, 깊이 4·5에서는 수렴 속도와 일반화 향상이 미미해 포화 현상이 관찰된다. 이는 변분 회로의 표현력은 증가하나 파라미터 수가 급증하면서 barren plateau 위험이 커지는 전형적인 트레이드오프와 일치한다. 특징 매핑 측면에서는 다축 회전(Rx, Ry, Rz)을 포함한 매핑이 데이터의 Hilbert 공간 내 분포를 효과적으로 확장시켜 클래스 간 거리와 실루엣 점수를 크게 높였다. 반면 Z‑rotation만 사용하는 단순 매핑은 양자 상태 간 겹침을 초래해 차원 붕괴(dimensional collapse) 현상이 나타났으며, PCA 결과에서도 주요 성분이 2개 이하로 압축되는 것을 확인했다. 이러한 현상은 양자 회전축의 다양성이 입력 데이터의 비선형 변환을 촉진하고, 얽힘 연산이 클래스 구분에 필수적임을 시사한다. 또한, 파라미터‑시프트 규칙을 이용한 정확한 그래디언트 계산이 가능했음에도 불구하고, 깊은 ansatz에서는 학습 초기에 그래디언트 분산이 급격히 감소해 최적화가 지연되는 것이 관찰되었다. 전체적으로, 적절한 ansatz 깊이(3~4)와 다축 회전 기반 특징 매핑을 결합하면 학습 안정성, 일반화 성능, 그리고 데이터 분포의 명확한 구분을 동시에 달성할 수 있음을 입증한다.