양자 얽힘을 활용한 듀얼큐비트 퍼지 신경망으로 관계 학습 구현

초록

본 논문은 기존 단일 큐비트 기반 QA‑HFNN이 피처 간 의존성을 모델링하지 못한다는 한계를 극복하기 위해, 두 개의 큐비트를 얽힘시켜 피처 쌍을 공동 퍼지 멤버십으로 인코딩하는 듀얼큐비트 계층형 퍼지 신경망(DQ‑HFNN)을 제안한다. 실험 결과, DQ‑HFNN은 여러 이미지 분류 벤치마크에서 QA‑HFNN 및 전통적인 딥러닝 모델을 능가하며, 회로 깊이와 파라미터 수를 동일하게 맞춘 경우에도 성능 향상이 얽힘을 통한 관계 학습 능력에 기인함을 확인한다. 또한 파라미터 효율성, 추론 속도, 그리고 NISQ 디바이스에서의 잡음 내성을 입증한다.

상세 분석

DQ‑HFNN은 기존 QA‑HFNN이 사용한 단일 큐비트 인코딩을 확장하여, 입력 피처를 (x_i, x_j) 형태의 쌍으로 묶고 이를 두 개의 큐비트에 동시에 매핑한다. 데이터 인코딩 단계에서는 각 피처를 Ry 회전 게이트로 변환하고, 이후 CNOT 기반의 얽힘 연산을 적용해 두 큐비트 사이에 비클래식 상관관계를 생성한다. 이 얽힘은 양자 상태 공간에서 피처 쌍의 공동 확률분포를 직접 표현하게 하여, 전통적인 퍼지 멤버십 함수 f(x_i, x_j)를 연속적인 양자 파라미터 θ에 매핑한다.

아키텍처는 양자 퍼지 브랜치와 고전적 CNN 브랜치를 병렬로 배치하고, 양자 브랜치에서 추출된 관계형 퍼지 특징과 CNN에서 얻은 고수준 의미 특징을 융합층에서 결합한다. 융합 후 최종 분류기는 소프트맥스 레이어를 사용한다. 중요한 설계 선택으로는 (1) 피처 페어링 전략—그리드 기반 샘플링을 통해 공간적 인접성을 보존하고, 다중 스케일 관계를 포착하도록 설계, (2) 다양한 양자 회로 변형(A–G)으로 구성된 Ablation 실험—파라미터 수와 회로 깊이를 동일하게 유지하면서 얽힘 유무, 대칭성, 파라미터화 정도를 조절해 성능 기여도를 정량화.

실험 결과는 다음과 같다. 첫째, DQ‑HFNN은 CIFAR‑10, MNIST‑Fashion, Jaffe 등 3개 데이터셋에서 평균 2.3%~4.1% 높은 정확도를 달성했으며, 특히 복잡한 배경을 가진 이미지에서 관계 학습이 크게 기여함을 확인했다. 둘째, 동일 파라미터 수와 회로 깊이를 갖는 비얽힘(Ent‑off) 버전과 비교했을 때, 얽힘을 포함한 모델이 평균 1.8% 이상의 정확도 향상을 보였다. 이는 얽힘 자체가 관계 표현력을 강화한다는 가설을 뒷받침한다. 셋째, 파라미터 효율성 측면에서 DQ‑HFNN은 QA‑HFNN 대비 30% 적은 파라미터로 동일 수준 이상의 성능을 유지했으며, 추론 시간도 양자 시뮬레이터 기반에서 0.45배 가량 빨라졌다. 넷째, 양자 잡음 모델(Depolarizing, Amplitude Damping)을 적용한 실험에서 5%~10% 수준의 게이트 오류율까지도 정확도 저하가 미미했으며, 이는 NISQ 디바이스에서 실용적 구현 가능성을 시사한다.

한계점으로는 현재 피처 페어링이 고정된 그리드 방식에 의존한다는 점이며, 이는 이미지 외의 비정형 데이터에 적용하기 위해서는 동적 페어링 혹은 그래프 기반 샘플링 기법이 필요하다. 또한 양자 회로 최적화가 아직 초기 단계이므로, 실제 하드웨어에서의 게이트 오류와 큐비트 연결 제약을 고려한 회로 설계가 추가 연구 과제로 남는다.