SO(3) 회전군에서 Fisher 분포의 특성 및 효율적 추정 방법

초록

본 논문은 3차원 특수 직교군 SO(3) 위에 정의된 Fisher(또는 von Mises‑Fisher) 분포의 정규화 상수와 최대우도 추정(MLE)을 계산하기 위해, 호몰로닉 그래디언트 디센트(HGD)와 무한급수 전개법을 적용한다. 또한 SO(3)와 두 정규 직교벡터의 스테펠 다양체 V₂(ℝ³) 간의 분포 차이를 이론적으로 분석하고, 근지구천체(Near‑Earth Objects) 데이터에 적용하여 실증한다.

상세 분석

이 연구는 회전군 SO(3) 위에 정의된 Fisher 분포 f(X;Θ)=c(Θ)⁻¹ exp(tr(ΘᵀX)) 의 핵심 난제인 정규화 상수 c(Θ) 의 정확한 계산에 초점을 맞춘다. 기존에는 무한급수 전개, 수치적 적분, 마코프 체인 몬테카를로 등 다양한 근사법이 사용되었지만, 저자는 Nakayama et al. (2011)에서 제안된 호몰로닉 그래디언트 디센트(HGD)를 도입한다. HGD는 D‑module 이론을 기반으로 정규화 상수가 만족하는 편미분 방정식, 즉 Pfaffian 시스템을 유도하고, 초기값 하나만 알면 파라미터 공간 전역에서 상수와 그 도함수를 연속적으로 적분해 얻을 수 있다. 구체적으로, 1차원 사례인 S¹의 Bessel 함수와 유사하게 C(κ) 가 만족하는 2차 미분식 ∂²C+ (1/κ)∂C−C=0 을 이용해 수치적 ODE 해법을 적용한다. 다변량 파라미터 θ∈ℝᵈ 에 대해서는 각 성분에 대한 1차 편미분 형태의 Pfaffian 시스템 ∂_{θ_i} G = P_i(θ) G 을 구성하고, 이를 순차적(또는 경로 적분) 방식으로 해결한다.

정규화 상수의 무한급수 전개는 기존 문헌(Préntice 1986, Wood 1993)에서 제시된 1차원 적분 표현을 일반화한 것으로, 행렬 ΘᵀΘ 에 대한 하이퍼지오메트릭 함수 ₀F₁(p/2; ΘᵀΘ/4) 와 연결된다. 특히 SO(3)에서는 Bingham 분포와 동형임을 이용해, 실질적으로는 수정된 Bessel 함수 I₀ 와 연관된 단일 적분식으로 변환한다.

통계적 추정 측면에서는, 표본 평균 행렬 \bar X 의 부호 보존 SVD(Θ=Q diag(φ) R) 를 사용해 파라미터를 대각화한다. 이때 로그우도 ℓ(Φ)=tr(ΦᵀG)−log c(Φ) 는 Φ의 비대각 성분에 대해 완전 대칭성을 가지므로, 최적화는 대각 성분 φ_i 만을 대상으로 한다. 최적 조건은 ∂_{φ_i} log c(Φ)=g_i (표본 특이값) 로 표현되며, 이는 정규화 상수의 도함수를 필요로 한다. HGD를 통해 이 도함수를 효율적으로 얻음으로써, 기존의 반복적 수치 적분보다 훨씬 빠른 MLE 계산이 가능해진다.

또한, 논문은 V_{p−1}(ℝ^p) (즉, Stiefel 다양체)와 SO(p) 간의 분포 구조 차이를 정리한다. p≥3일 때, V_{p−1}(ℝ^p) 위의 Fisher 분포는 SO(p) 위의 분포의 엄격한 부분모델임을 보이는 Lemma 1을 제시한다. 이는 파라미터 행렬 Θ의 마지막 열을 0으로 고정함으로써 얻어지며, 차원 p=2 에서는 두 모델이 동등하지만, p≥3에서는 추가적인 자유도가 존재한다는 의미다.

마지막으로, 근지구천체(Near‑Earth Objects) 궤도 데이터에 본 방법을 적용한 사례를 제시한다. 관측된 회전 행렬들을 이용해 \bar X 를 계산하고, HGD 기반 MLE를 수행한 결과, 기존 Stiefel 기반 추정과 비교해 회전군 특유의 비대칭성을 포착함을 확인한다. 이는 실제 물리적 회전 현상을 모델링할 때, SO(3) 기반 Fisher 분포가 더 적합함을 시사한다.