양자 합성곱 신경망 인코딩 전략 비교 연구

초록

본 논문은 디포라라이징 노이즈 환경에서 QCNN에 적용되는 세 가지 대표 인코딩 방식(Angle, Amplitude, Hybrid)의 구현‑수준 성능을 비교한다. 4×4와 8×8 해상도의 이진 MNIST·Fashion‑MNIST 데이터를 사용해 PyTorch‑Qiskit 파이프라인을 구축하고, 배치 파라미터‑시프트와 샷 스케줄링을 적용해 학습한다. 결과는 저해상도에서는 Angle 인코딩이 정확도와 노이즈 내성을 가장 잘 유지하고, 고해상도에서는 Hybrid 인코딩이 중간 노이즈 수준에서 Angle를 앞선다. Amplitude 인코딩은 qubit 효율은 높지만 회로 깊이와 실제 하드웨어 구현 비용이 큰 상황에서 제한적으로 강점을 보인다.

상세 분석

이 연구는 QCNN이라는 구조적 장점을 가진 양자 머신러닝 모델에 데이터 인코딩이 미치는 영향을 정량적으로 밝히려는 시도이다. 먼저, Angle 인코딩은 각 픽셀 값을 Ry 회전각에 직접 매핑함으로써 회로 깊이가 얕고 하드웨어 친화적이다. 따라서 디포라라이징 노이즈가 증가해도 파라미터 변동이 제한적이며, 4×4와 같은 극단적인 다운샘플링 상황에서 충분한 표현력을 유지한다. 반면, Amplitude 인코딩은 입력 벡터를 정규화 후 초기화(Initialize) 명령으로 직접 상태 진폭에 매핑한다. 이 방식은 로그 스케일의 qubit 사용 효율을 제공하지만, 실제 디바이스에서는 복잡한 상태 준비 회로가 필요해 게이트 오류와 디코히런스에 취약하다. 논문에서는 이상적인 Initialize를 가정했기 때문에 실험 결과가 과도하게 낙관적일 수 있다. Hybrid 인코딩은 Ry와 Rz 회전을 결합하고, 데이터‑의존적인 CX 엔탱글링을 포함해 데이터 재업로드 방식을 구현한다. 이는 각 qubit에 더 많은 정보(위상·각도)를 담아 표현력을 높이면서도 회로 깊이를 완전히 얕게 만들지는 않는다. 실험에서는 8×8 해상도에서 중간 수준의 노이즈(p1≈0.01, p2≈0.02) 하에 Hybrid이 Angle를 앞서는 현상이 관찰되었으며, 이는 추가적인 위상 정보가 더 큰 피처 공간을 제공해 모델이 더 복잡한 패턴을 학습하게 함을 의미한다.

기술적인 측면에서 저자는 파라미터‑시프트 규칙을 배치화해 단일 Estimator 호출로 모든 그래디언트를 계산함으로써 역전파 비용을 크게 절감하였다. 또한, 샷 스케줄링을 도입해 초기 학습 단계에서는 낮은 샷 수로 빠른 탐색을, 후반부에서는 높은 샷 수로 정밀도를 확보하는 전략을 사용했다. 이러한 구현은 노이즈 시뮬레이션에서도 실용적인 학습 시간을 제공한다.

제한점으로는(1) 디포라라이징 노이즈 모델이 실제 디바이스의 복합 오류를 충분히 반영하지 못한다는 점, (2) Amplitude 인코딩에 사용된 Initialize가 실제 회로 깊이를 무시한다는 점, (3) 파라미터‑시프트가 파라미터 수에 선형적으로 스케일되어 큰 모델에선 병목이 될 수 있다는 점을 들었다. 향후 연구에서는 보다 현실적인 오류 모델, 하드웨어‑친화적인 상태 준비 알고리즘, 그리고 더 효율적인 그래디언트 추정법(예: stochastic parameter‑shift) 등을 도입해 결과의 일반성을 검증할 필요가 있다.

요약하면, 저해상도·고노이즈 환경에서는 Angle 인코딩이 가장 안정적이며, 중간 해상도·중간 노이즈에서는 Hybrid이 잠재적 이점을 제공한다. Amplitude 인코딩은 qubit 자원이 제한된 상황에서 이론적으로는 매력적이지만, 실제 구현 비용을 고려하면 제한적인 적용이 바람직하다.