밀도 행렬을 위한 베이지안 확률 연산

초록

이 논문은 양자 물리학에서 핵심 개념인 밀도 행렬을 확률론의 일반화된 형태로 해석하고, 이를 기반으로 베이지안 확률 연산 체계를 구축한다. 전통적인 확률 분포가 대각 행렬에 해당한다면, 밀도 행렬은 모든 단위 벡터를 기본 사건으로 하는 비대각적인 확률 모델을 제공한다. 저자는 결합, 조건부, 전법칙, 베이즈 정리 등을 밀도 행렬 형태로 정의하고, 고전 확률론을 특수 경우로 포함시키는 일관된 계산법을 제시한다. 또한 MAP 추정량과 데이터 로그우도 사이의 경계도 일반화한다.

상세 분석

본 논문은 확률론을 선형 대수적 구조와 결합함으로써, 전통적인 확률 분포를 밀도 행렬이라는 보다 풍부한 객체로 확장한다. 핵심 아이디어는 ‘단위 벡터’를 사건(event)으로 보고, 각 사건에 대한 확률을 양의 실수 대신 양의 준정규화된 행렬 원소로 표현한다는 점이다. 이때 확률의 총합은 모든 정규 직교 기저에 대해 1이 되도록 정의되며, 이는 트레이스가 1인 양의 정부호 행렬, 즉 밀도 행렬의 정의와 일치한다.

저자는 먼저 dyad uuᵀ(또는 uu′) 를 기본 사건으로 삼아, 임의의 밀도 행렬 ρ를 이러한 dyad들의 가중합으로 표현한다. 여기서 가중치는 확률과 동일한 의미를 가지며, 전체 가중치의 합은 트레이스(ρ)=1이 된다. 이러한 관점에서 ‘조건부 밀도 행렬’은 고전적인 조건부 확률 P(A|B)=P(A∩B)/P(B) 를 행렬 연산으로 옮겨, ρ_{A|B}=ρ_{AB}·ρ_B^{-1} 로 정의된다. 이때 역행렬이 존재하지 않을 경우를 대비해 슈워츠(Moore‑Penrose) 의사역을 사용한다는 점이 기술적 강점이다.

결합 밀도 행렬 ρ_{AB}는 텐서곱 형태로 구성되며, 이는 두 사건 공간의 직교 기저를 각각 확장한 결과와 동일하다. 전법칙(total probability theorem)은 모든 정규 직교 기저 {e_i}에 대해 ρ_A=∑i (e_i⊗I) ρ{AB} (e_i⊗I)ᵀ 로 표현되며, 이는 고전적인 Σ_j P(A|B_j)P(B_j) 와 완벽히 대응한다.

베이즈 정리는 ρ_{B|A}=ρ_{AB}·ρ_A^{-1} 로 제시되며, 여기서 ρ_A^{-1}는 앞서 언급한 의사역을 사용한다. 저자는 또한 MAP 추정량을 행렬 형태로 정의하고, 데이터 로그우도 L(θ)=log Tr(ρ_θ X) 와 MAP 로그우도 L_MAP 사이에 -log L ≤ -log L_MAP + KL(ρ_data‖ρ_MAP) 형태의 경계를 증명한다. 이는 고전적인 베이즈 정리에서의 KL 발산 기반 경계와 구조적으로 동일하다.

수학적 정밀성을 유지하면서도, 이 체계는 양자 정보 이론, 머신러닝의 커널 방법, 그리고 고차원 통계 모델링에 직접 적용 가능하다. 특히, ‘방향성 불확실성(direction uncertainty)’을 명시적으로 모델링함으로써, 기존 베이지안 모델이 파라미터 공간의 불확실성만을 다루던 한계를 넘어선다.