구대칭 회전 파라미터 추정 및 군 기반 클러스터링

본 논문은 구대칭 군(G) 하에서 회전 파라미터가 불변(invariant)인 확률분포를 추정하고, 이러한 분포들을 군‑불변 클러스터링으로 확장하는 방법을 제시한다. 연구는 크게 네 부분으로 구성된다. 첫 번째 부분에서는 군‑불변 확률변수의 일반 이론을 소개한다. 유한 위상군 G={G₁,…,G_M}이 정의된 공간 X에 대해, 함수 f(x)가 G‑불변이면 f(G x)=f(x) 를 만족한다. 정리 2.1에 따르면, 모든 G‑불변 밀도 f는 기본밀도 h(x;θ)의 군 작용에 대한 M개의 변형 h(G_i x;θ) 의 평균으로 표현될 수 있다: f(x;θ)= (1/M) Σ_{i=1}^M h(G_i x;θ). 이 표현은 혼합계수가 모두 1/M인 유한 혼합 모델이라는 점에서, 기존의 EM 알고리즘이나 제한된 볼츠만 머신(RBM) 등 혼합 모델 추정 기법을 그대로 적용할 수 있음을 의미한다. 두 번째 부분에서는 구면(spherical) 도메인에 특화된 두 가지 파라메트릭 모델을 도입한다. 첫 번째는 방향통계에서 가장 널리 쓰이는 Von Mises‑Fisher(VMF) 분포이며, 파라미터는 평균 방향 µ∈S^{p‑1}와 농도 κ≥0이다. 기본 형태 φ(x;µ,κ)=c_p(κ) exp(κ µᵀx) 로 정의된다. 이를 군‑불변 형태로 확장하면 f_v(x;µ,κ)= (1/M) Σ_{m=1}^M φ(P_m x;µ,κ)= (1/M) Σ_{m=1}^M φ(x;P_m µ,κ) 가 된다. 여기서 P_m∈G는 군의 행렬 표현이다. 두 번째 모델은 축대칭(axial) 데이터를 위한 Watson 분포이다. 파라미터는 평균 축 ±µ와 실수 농도 κ (양·음 모두 허용)이며, 밀도는 W_p(x;µ,κ)=C·exp