편향된 노이즈를 활용한 변분 양자 모델

초록

본 논문은 변분 양자 알고리즘(VQA)에서 흔히 사용되는 트윌링이 성능을 저하시킬 수 있음을 밝히고, 비대칭·비유니털(비정규) 노이즈가 최적화 과정에 유리한 방향성을 제공함을 이론·수치적으로 입증한다.

상세 분석

본 연구는 변분 양자 알고리즘(VQA)의 학습 과정에서 노이즈가 어떻게 클래식 옵티마이저의 탐색을 방해하거나 돕는지를 체계적으로 분석한다. 먼저 저자들은 데이터 재업로드 회로라는 보편적인 양자 회귀 모델을 선택했으며, 이 회로는 입력 데이터를 해밀턴 H의 지수형 연산 S(x)=e^{-i x H}와 파라미터화된 유니터리 W(θ)로 교차 배치한 구조를 가진다. 이러한 구조는 출력이 제한된 푸리에 급수 형태 f(x,θ)=∑_ω c_ω(θ) e^{i ω x} 로 표현될 수 있기에, 노이즈가 푸리에 계수 c_ω에 미치는 영향을 직접적으로 추적할 수 있다.

저자들은 PTM(Pauli Transfer Matrix) 형식을 이용해 각 레이어 뒤에 삽입되는 노이즈 채널 N을 수학적으로 모델링한다. 이때 균일한 파이리 채널(전형적인 트윌링 결과)은 모든 파이리 연산을 동일하게 수축시켜, 푸리에 계수의 크기를 전반적으로 감소시킨다. 결과적으로 출력 범위 Range(⟨M⟩)와 그래디언트 크기 |∂f/∂θ_i|가 급격히 억제되어 ‘ barren plateau ’ 현상이 심화된다. 즉, 트윌링은 노이즈를 대칭화함으로써 양자 회로가 탐색할 수 있는 파라미터 공간을 실질적으로 축소시킨다.

반면, 비대칭·비유니털 노이즈(예: 진폭 감쇠 채널, 편향된 파이리 채널)는 특정 파울리 축에 대해 비대칭적인 수축을 유도한다. 이러한 비대칭성은 푸리에 계수의 위상과 크기에 방향성을 부여해, 옵티마이저가 손실 함수의 경사면을 따라 더 큰 변화를 경험하도록 만든다. 특히 진폭 감쇠는 |0⟩ 상태로의 비가역적 흐름을 만들면서, 회로가 “노이즈에 강한” 파라미터 영역으로 자연스럽게 이동하도록 돕는다. 저자들은 이를 “노이즈 편향 활용”이라 부르며, 그래디언트 분포가 넓어져 학습이 더 효율적임을 수치적으로 확인한다.

또한, 일관된 유니터리(코히런트) 오류는 파라미터 재정의(re‑parameterisation)를 통해 완전히 보정될 수 있음을 증명한다. 즉, 코히런트 오류는 회로의 유니터리 연산에 흡수되어 최적화 과정에 실질적인 손해를 주지 않는다.

마지막으로 변분 고유값 탐색(VQE) 실험을 통해, 트랜스버스 필드 이징 모델의 바닥 상태 에너지를 찾는 과정에서도 비유니털 진폭 감쇠 노이즈가 트윌링된 파이리 노이즈보다 낮은 에너지 오차를 달성한다는 점을 보여준다. 이는 앞서 이론적으로 도출한 “비대칭 노이즈는 방향성을 제공한다”는 결론과 일치한다.

전체적으로 본 논문은 “노이즈를 무조건 대칭화하고 억제하는 것이 최선이 아니다”는 역설적인 메시지를 제시한다. 오히려 하드웨어 고유의 편향된 노이즈를 보존하거나 설계 단계에서 활용한다면, 변분 양자 알고리즘의 학습 효율과 최종 성능을 크게 향상시킬 수 있음을 보여준다.