무한 차원 로그‑행렬식 발산의 알파‑베타 확장과 RKHS 공분산 연산자 적용

본 논문은 “Alpha‑Beta Log‑Determinant divergences” 라는 파라미터화된 발산 함수를 무한 차원의 힐베르트 공간으로 확장한다. 먼저, 양의 정부호 연산자 P(H)와 trace class 연산자 Tr(H)를 정의하고, 이들을 결합한 unitized trace class 연산자 집합 PT_r(H)= {A+γI > 0 | A∈Tr(H), γ∈ℝ} 를 도입한다. 이 집합은 확장된 트레이스 tr_X와 확장된 Fredholm 행렬식 det_X 를 통해 연산이 가능하도록 설계되었다. 정의 1에서는 α>0, β>0, r≠0 인 경우에 대해 두 연산자 (A+γI)와 (B+µI) 사이의 Alpha‑Beta Log‑Det 발산 D_{α,β}^r 를 다음과 같이 정의한다. 핵심 구성 요소는 - Λ = (B+µI)^{-1/2}(A+γI)(B+µI)^{-1/2} − γµ I, - δ = αγ^r/(αγ^r+βµ^r), - 그리고 확장된 행렬식 det_X 를 이용한 로그 항. 수식 (8)과 (9)은 두 형태를 제시하는데, (9)는 Z = (A+γI)(B+µI)^{-1} − γµ I 로 표현된다. 정의 2에서는 β=0 혹은 α=0 인 극한 상황을 다루며, 트레이스와 행렬식이 결합된 형태로 발산을 정의한다. 이는 기존의 α‑LogDet 발산이 α→0, β→0 일 때 나타나는 형태와 일치한다. 정리 1은 정의된 발산이 비음이며, 영이 되려면 두 연산자가 완전히 동일함을 보인다. 정리 2와 3은 다양한 특수 경우를 보여준다. 특히, - α=β, r=α+β 로 두 파라미터를 동일하게 잡으면, α→0 한계에서 affine‑invariant Riemannian 거리 d_aiHS 가 얻어진다 (정리 2, 식 (14)~(15)). - α+β=1 일 때는 기존 Alpha‑LogDet 발산과 동일하며, α=½ 일 경우 대칭 Stein 발산의 제곱근이 된다 (정리 3, 식 (25)). - γ=µ 로 고정하면, α=β인 경우 √D_{α,α}^{2α} 가 완전한 거리(metric)임을 정리 4가 증명한다. 이는 무한 차원에서도 Stein 발산의 제곱근이 거리임을 일반화한다. 다음으로, 논문은 RKHS에서의 공분산 연산자 C_X와 C_Y에 대해 Gram 행렬 K_X, K_Y 를 이용해 닫힌 형태의 발산식을 도출한다. 이는 실제 계산에서 무한 차원 연산자를 직접 다루지 않고, 유한 차원 Gram 행렬만으로 발산을 평가할 수 있게 해준다. 수학적 배경으로는 연산자 로그와 거듭제곱을 스펙트럼 분해를 통해 정의하고, 확장된 Fredholm 행렬식 det_X 가 γ≠0 일 때 det_X(A+γI)=γ^{-1}det(I+γ^{-1}A) 로 표현됨을 이용한다. 또한, exp 함수가 PT_r(H) 를 닫힌 집합으로 보존함을 보이며, 로그 함수는 모든 unitized 양의 정부호 연산자에 대해 잘 정의된다. 논문의 주요 기여는 다음과 같다. 1. 무한 차원 양의 정부호 연산자 사이의 Alpha‑Beta Log‑Det 발산을 엄밀히 정의하고, 비음성, 대칭성, 거리성 등을 증명하였다. 2. 기존의 affine‑invariant Riemannian 거리, Alpha‑LogDet 발산, 대칭 Stein 발산 등을 하나의 파라미터 패밀리 안에 포함시켜 통합적인 시각을 제공하였다. 3. RKHS 공분산 연산자에 대한 닫힌 형태식을 제시함으로써, 커널 기반 머신러닝에서 효율적인 거리·발산 계산이 가능하도록 하였다. 4. r 파라미터를 도입해 기존 문헌에 없던 새로운 자유도를 제공하고, r≠α+β 인 경우에도 의미 있는 발산을 정의하였다. 결론적으로, 이 연구는 무한 차원 선형 연산자 이론과 정보 기하학을 연결하는 중요한 다리 역할을 하며, 특히 커널 방법, 함수형 데이터 분석, 무한 차원 통계 모델링 등에서 새로운 거리와 발산을 활용할 수 있는 기반을 마련한다.