노이즈가 있는 156‑큐비트 양자 컴퓨터에서 비선형 미분방정식 해결

초록

본 논문은 IBM 156‑큐비트 NISQ 디바이스에서 하이브리드 변분 양자 알고리즘 H‑DES를 이용해 1‑차원 비탄성 재료 변형 문제와 무점성 버거스 방정식을 성공적으로 풀었다는 실험 결과를 제시한다. VQA 기반의 손실 함수 설계, 하드웨어‑효율적인 ansatz, 그리고 경계조건 처리 방식을 상세히 기술하고, 실제 양자 하드웨어에서 수렴 및 정확도를 검증한다.

상세 분석

이 연구는 현재 NISQ 시대에 실용적인 과학 시뮬레이션을 수행할 수 있는 가능성을 탐색한다는 점에서 의미가 크다. 저자들은 기존의 HHL 기반 선형 시스템 해결 방식이 아직 하드웨어 한계에 부딪힌다는 점을 인식하고, 변분 양자 알고리즘(VQA)이라는 대안에 초점을 맞췄다. 특히 H‑DES(Hybrid‑Differential‑Equation‑Solver) 알고리즘은 문제 정의 → 손실 함수 구성 → 변분 양자 회로(VQC) → 하이브리드 최적화라는 전형적인 VQA 흐름을 따르면서도, 함수값을 Chebyshev 다항식 전개 형태의 관측량 Oₘ(x)으로 표현한다는 독창적인 설계를 도입했다. 이는 기존 연구에서 흔히 사용되는 feature‑map 기반 콜로케이션 포인트 인코딩과 달리, 관측량 자체를 최적화 가능한 파라미터로 두어 회로 깊이를 최소화하고 barren plateau 현상을 완화한다는 장점을 제공한다.

논문은 두 가지 물리 모델을 선택했다. 첫 번째는 1‑차원 하이포엘라스틱 인장 시험으로, 비선형 ODE 시스템(변위 u와 응력 σ)이며 해가 다항식 형태로 존재한다. 이는 양자 솔루션을 정확한 해와 직접 비교할 수 있는 좋은 벤치마크가 된다. 두 번째는 무점성 버거스 방정식으로, 1‑차원 비선형 쿼시선형 하이퍼볼릭 PDE이며 충격파 형성이라는 물리적 비선형성을 포함한다. 두 문제 모두 경계조건(또는 초기조건)을 부동 경계조건 변환(shift) 방식으로 손실에 직접 반영하거나, 패널티 항으로 추가함으로써 최적화 과정에서 정확히 만족시키도록 설계했다.

하드웨어 측면에서는 IBM Marrakesh와 IBM Fez(Heron 아키텍처) 156‑큐비트 프로세서를 사용했으며, 회로는 2‑4 레이어 깊이의 하드웨어‑효율적인 ansatz(HEA)를 채택했다. CNOT, CZ, ECR 등 다양한 얽힘 게이트를 실험했지만, 최종적으로는 CNOT 기반의 얕은 HEA가 가장 안정적인 수렴을 보였다. 트랜스파일링은 Qiskit의 preset pass manager를 이용해 최적화 레벨 2와 trivial 레이아웃을 적용했으며, 파라미터를 심볼릭으로 유지해 한 번만 트랜스파일링하도록 함으로써 재현성을 확보했다. 오류 완화(resilience_level=0) 없이도 SLSQP와 파라미터‑시프트 규칙을 이용한 그래디언트 계산으로 충분히 수렴했으며, 이는 현재 NISQ 디바이스에서 변분 최적화가 실용적임을 시사한다.

실험 결과는 두 모델 모두 손실이 10⁻³ 이하로 수렴하고, 함수값 오차가 1‑2% 수준으로 제한됨을 보여준다. 특히 하이포엘라스틱 ODE에서는 15‑큐비트 회로로 u(x)와 4‑큐비트 회로로 σ(x)를 각각 재현했으며, Chebyshev 기반 관측량 덕분에 고차 다항식 형태의 정확한 해를 효율적으로 근사했다. 버거스 방정식에서는 8‑10 큐비트 규모의 회로로 초기 파동을 전파시키는 과정을 재현했으며, 충격파 전개 전후의 구간에서 기대값이 이론적 해와 일치함을 확인했다. 전체적으로 이 논문은 NISQ 디바이스에서 비선형 미분방정식을 풀기 위한 실험적 파이프라인을 제시하고, VQA 설계, 손실 함수 구성, 하드웨어 최적화 전략을 종합적으로 검증한 최초 사례라 할 수 있다.