고차 마그누스 전개를 활용한 리 대수 기반 양자 시뮬레이션 및 최적 제어

초록

본 논문은 시간 의존 제어 함수를 다항식으로 표현하고, 동역학 리 대수의 구조 상수를 이용해 마그누스 전개의 고차 항을 효율적으로 계산하는 방법을 제시한다. 이를 통해 차수 12까지의 유효 해밀토니안을 밀리초 수준으로 평가할 수 있으며, 중성 원자 기반 5‑큐빗 위상 게이트 설계와 같은 양자 최적 제어 문제에 적용한다.

상세 분석

이 연구는 시간‑의존 해밀토니안 (H(t)=A+d(t)B) 형태를 전제로 한다. 여기서 (A)는 고정 드리프트, (B)는 하나의 제어 연산자이며, 제어 파라미터 (d(t))를 차수 (m)의 다항식으로 전개한다. 다항식 전개는 마그누스 전개의 고차 시간 적분을 폐형식으로 풀 수 있게 하며, 적분 결과는 모두 (t)와 제어 계수 ({d_\gamma})의 다항식 형태가 된다.

핵심 아이디어는 동역학 리 대수 (\mathfrak g=\text{span}\mathbb{R}{iA,iB}) 를 생성하고, 그 대수의 기저 ({L\mu})와 구조 상수 (f_{ijk}) 를 미리 계산하는 것이다. 이렇게 하면 마그누스 전개의 각 항이 (\sum_\mu a_\mu^{(k)}(t,\mathbf d)L_\mu) 로 표현되며, 계수 (a_\mu^{(k)}) 는 다항식 형태의 합으로 압축된다. 저자들은 기존의 이진 트리 기반 적분 방법을 차용해, 특정 차수 (k_M) 에 대해 필요한 적분과 커뮤테이터 조합을 체계적으로 식별하고, 이를 구조 상수와 결합해 최종 다항식 계수를 도출한다.

계산 복잡도는 두 단계로 나뉜다. 첫 번째는 모델‑특정 단계로, (A)와 (B)에 대한 리 대수와 구조 상수를 구하는 작업이며, 이는 시스템 규모에 따라 다항식 시간에 수행된다. 두 번째는 실제 시뮬레이션/제어 단계로, 한 번 계산된 구조 상수를 이용해 제어 파라미터와 시간만 입력하면 즉시 유효 해밀토니안을 얻는다. 실험 결과는 차수 10~12까지의 마그누스 전개가 기존 방법 대비 수십 배에서 수백 배 빠르게 평가됨을 보여준다.

또한, 다항식 형태이므로 자동 미분이 가능해 그라디언트 기반 최적화(GrAPE)의 연속형 확장에 바로 적용할 수 있다. 저자들은 이를 중성 원자 Rydberg 플랫폼에 적용해 5‑큐빗 위상 게이트를 설계했으며, 목표 게이트 시간과 오류율을 동시에 최소화하는 최적 파형을 얻었다. 이 과정에서 제어 파라미터의 차수 (m)와 마그누스 차수 (k_M) 사이의 트레이드오프가 명확히 드러났으며, 적절히 높은 차수를 선택하면 수치적 안정성과 정확성을 동시에 확보할 수 있다.

전체적으로 이 방법은 (1) 제어 함수의 차수에만 의존하는 스케일러블한 복잡도, (2) 리 대수 구조를 사전 계산해 고차 커뮤테이터를 압축, (3) 다항식 형태를 통한 초고속 평가 및 자동 미분 가능성이라는 세 가지 강점을 제공한다. 이는 NISQ 시대에 제한된 큐비트와 짧은 코히런스 시간을 고려할 때, 고정밀 양자 시뮬레이션과 최적 제어에 실질적인 돌파구가 될 수 있다.