양자 채널 최적화 최적성 추정에 대한 반례: 스펙트럴 서명 조건의 한계

초록

본 논문은 2차원 힐베르트 공간에서 구성한 구체적인 반례를 통해, Coutts 등(2021)이 제시한 “스펙트럴 계산을 이용한 듀얼 인증서의 유일성”이라는 최적성 추정 가설이 일반적인 경우(특히 오류 행렬이 계수(rank‑deficient)일 때)에는 성립하지 않음을 증명한다. 대칭성 축소와 선형계획(LP) 변환을 이용해 문제 차원을 크게 줄인 뒤, 대각 행렬 형태의 최적 해를 찾아 가설을 반박한다.

상세 분석

이 논문은 양자 채널 최적화 문제를 핵심적으로 두 가지 단계로 분석한다. 첫 번째 단계는 문제의 대칭성을 이용해 고차원 양자 채널 공간을 4×4 양의 반정밀(cone)에서 2차원 선형계획(LP) 문제로 축소하는 과정이다. 구체적으로, 입력‑출력 힐베르트 공간 X, Y, Z를 모두 2차원으로 두고, 특수한 최대 혼합 상태 ρ₀ =½∑|i⟩⟨j|⊗|i⟩⟨j|를 선택한다. 이때 (Id⊗Ψ_{ρ₀})(J(Φ)) = ½ J(Φ) 라는 등식이 성립함을 보이며, 최적화 식 (2)를 등가하게 (11) 형태의 제약식 ‖σ‑½X‖_* 최소화 문제로 변환한다.

두 번째 단계는 σ가 대각 행렬일 경우 그룹 불변성(G‑invariance)을 활용해 최적 해 역시 대각 행렬임을 증명한다. 여기서 정의된 G는 대각 유니터리 행렬들의 유한군이며, G의 작용 아래 feasible set과 목적함수가 불변함을 이용해 평균화 연산 X_G = (1/|G|)∑_{U∈G} U X U† 를 적용하면 최적 해가 대각화된다. 따라서 원래의 반정밀 최적화 문제는 ℓ₁-노름 최소화 문제, 즉 두 실변수 α,β∈