연속시간 양자 필터의 안정성 연구

초록

본 논문은 Wiener 과정에 의해 구동되는 연속시간 확률 마스터 방정식으로 기술되는 양자 상태와, 그에 대응하는 양자 필터 상태 사이의 충실도가 서브마르티게일임을 증명한다. 순수 상태가 아닌 일반 혼합 상태에서도 적용 가능하도록 충실도 정의를 확장했으며, 이 결과는 필터링 과정의 안정성을 보장하지만 반드시 수렴을 보장하지는 않는다.

상세 분석

본 연구는 연속시간 양자 시스템의 상태 추정 문제를 확률 미분 방정식(framework of stochastic master equations, SME)으로 모델링한 뒤, 해당 시스템에 대한 양자 필터(quantum filter, 즉 조건부 상태 추정기)의 수학적 안정성을 분석한다. 기존 문헌에서는 순수 상태(pure state) 경우에 한해, 양자 상태와 필터 상태 사이의 내적이 바로 충실도(fidelity)와 동일하므로, 그 내적이 서브마르티게일이라는 사실을 이용해 안정성을 보였었다. 그러나 혼합 상태(mixed state)에서는 충실도가 단순히 트레이스 내적(trace inner product)과 일치하지 않으며, 일반적인 정의는
(F(\rho,\sigma)=\bigl(\operatorname{Tr}\sqrt{\sqrt{\rho},\sigma,\sqrt{\rho}}\bigr)^{2})
와 같이 비선형적인 형태를 가진다. 이 비선형성 때문에 기존의 마코프성 분석 기법을 그대로 적용하기 어렵다.

논문은 먼저 연속시간 SME를
(d\rho_t = \mathcal{L}(\rho_t)dt + \mathcal{M}(\rho_t)dW_t)
형태로 기술하고, 여기서 (\mathcal{L})은 Lindblad 형식의 결정론적 진화 연산자, (\mathcal{M})은 측정 백노이즈와 연관된 확산 연산자를 의미한다. 양자 필터 (\hat\rho_t)는 동일한 구조를 갖지만, 관측값에 조건부 기대값을 적용한 형태로 정의된다.

핵심 기법은 두 상태 사이의 거리 함수를 충실도 대신에 “Uhlmann fidelity”를 사용하고, 이를 Itô 미분법으로 전개한다는 점이다. 구체적으로,
(dF(\rho_t,\hat\rho_t) = \operatorname{Tr}\bigl( \partial_\rho F, d\rho_t + \partial_{\hat\rho} F, d\hat\rho_t \bigr) + \frac12 \operatorname{Tr}\bigl( \partial^2_{\rho\rho}F, d\rho_t d\rho_t^\top + \dots \bigr))
와 같은 확장된 Itô 공식을 적용한다. 여기서 중요한 관찰은, 확산항이 양쪽 상태에 동일하게 작용하기 때문에 교차항이 소거되고, 결과적으로 기대값을 취했을 때
(\mathbb{E}