패시브 양자 시스템을 위한 위너 필터링과 최적 등화 설계

** 본 논문은 패시브 양자 선형 시스템에 대한 위너 필터링 문제를 체계적으로 탐구한다. 서론에서는 양자 통신에서 신호 전송의 근본적인 한계—양자 상태 복제 불가능성 및 측정 잡음 제한—를 언급하며, 이러한 제약 하에서 고전적인 최적화 기법을 그대로 적용할 수 없음을 지적한다. 이어서 고전적인 위너 필터링이 평균제곱오차(MSE)를 최소화하는 선형 필터 설계 방법임을 상기시킨 뒤, 양자 시스템에 적용할 경우 발생하는 물리적 실현성 제약을 소개한다. **II. 패시브 양자 시스템 모델**에서는 Heisenberg picture에서의 복소수 양자 스토캐스틱 미분 방정식 \(\dot a = A a + B u\), \(y = C a + D u\)를 제시하고, 입력 \(u(t)=u_0(t)+b(t)\)가 신호와 양자 잡음으로 구성된다고 설명한다. 물리적 실현성을 보장하기 위해 \(A\Theta + \Theta A^\dagger + BB^\dagger =0\), \(B = -\Theta C^\dagger\), \(D=I\) (여기서 \(\Theta=I\)로 가정)라는 제약을 도입한다. 또한 시스템이 안정적(Hurwitz)임을 가정하고, 전이함수 \(G(s)=C(sI-A)^{-1}B+I\)가 패시브 시스템에서는 \(G(s)G(-s^*)^\dagger = I\) 를 만족함을 보인다. **III. 양자 등화 문제 정의**에서는 채널 \(G(s)\)와 등화기 \(H(s)\)를 직렬 연결한 구조를 도입하고, 목표는 출력 \(\hat u(t)\)가 입력 \(u(t)\)와 최대한 일치하도록 하는 것이다. 고전적인 경우와 달리 양자 시스템에서는 전이함수 \(H(s)\)가 물리적 실현성 제약(15)을 만족해야 하므로, 전통적인 위너‑호프 방정식만으로는 해를 구할 수 없다. 따라서 논문은 **제약 최적화** 형태 \(\min_{H\in\mathcal H_r} \operatorname{tr} P_{e,e}(i\omega)\)를 제시한다. **IV. 제약 완화**에서는 전이함수 행렬을 블록 형태 \(H(s)=\begin{bmatrix}H_{11}&H_{12}\\H_{21}&H_{22}\end{bmatrix}\) 로 분해하고, 등화 오차 스펙트럼 \(P_{e,e}(s)\)가 \(H_{11},H_{12}\)에만 의존함을 이용한다. 물리적 실현성 제약 (19)–(21) 중 첫 번째 식을 사용해 \(H_{12}\)를 제거하고, 남은 제약은 \(H_{11}(i\omega)H_{11}(i\omega)^\dagger \le I\) 로 단순화된다. 이렇게 하면 원래 비볼록 문제를 **quadratic inequality** 제약을 가진 **convex** 형태(스칼라 경우 \(|H_{11}(i\omega)|\le1\))로 완화할 수 있다. **V. 두 가지 설계 접근법**에서는 (A) 전이함수 \(H_{11}(s)\)를 직접 최적화해 스펙트럼 밀도 \(P_{e,e}(i\omega)\)를 최소화하는 방법과 (B) 전통적인 위너‑호프 분해를 양자 제약에 맞게 변형하는 방법을 제시한다. 두 방법 모두 스칼라 신호를 가정하고, 구체적인 예로 광학 빔 스플리터를 사용한다. 식 (24)–(25)에서 최적화 문제는 \(\min_{|H_{11}(i\omega)|\le1} P_{e,e}(i\omega)\) 로 표현되며, 해는 \(H_{11}^{\star}(i\omega)=\frac{1}{G_{11}(i\omega)}\) 와 같은 형태가 되지만, 이때 \(|G_{11}(i\omega)|\ge1\) 이어야 제약을 만족한다. **노이즈 임계값**에 대한 논의는 핵심 결과 중 하나이다. 잡음 공분산 \(\Sigma_b\)가 작을수록 \(P_{e,e}\)의 최소값이 1에 가까워지며, 실제로 \(\Sigma_b\)가 특정 임계값 \(\Sigma_{\text{th}}\) 이하이면 어떤 \(H_{11}\)를 선택해도 MSE가 개선되지 않는다. 이는 패시브 시스템이 잡음을 추가로 도입할 수밖에 없기 때문에 발생한다. 논문은 수치 예시를 통해 \(\Sigma_{\text{th}}\)가 시스템 파라미터(예: 빔 스플리터의 반사/투과 비율)와 어떻게 연결되는지를 보여준다. **VI. 결론**에서는 위와 같은 결과를 요약하고, 패시브 양자 시스템에서 위너 등화 설계가 고전적인 경우와 근본적으로 다름을 강조한다. 제약 완화와 두 가지 설계 방법은 실용적인 구현을 위한 첫 걸음이며, 향후 연구에서는 비패시브(능동) 시스템, 다중입출력(MIMO) 구조, 그리고 비선형 양자 필터에 대한 확장이 필요함을 제시한다. **