비균일 회전분포에서 SO(3) 궤도 복원을 위한 두 번째 모멘트 이론과 효율적 알고리즘

본 논문은 회전이 관측되지 않은 채 잡음이 섞인 다수의 3‑차원 관측값 y_i = g_i·x + ε_i 로부터 원본 신호 x 의 궤도(전역 회전 동등 클래스)를 복원하는 문제를 다룬다. 여기서 g_i ∈ SO(3) 는 비균일 확률분포 ρ(g) 에 따라 무작위로 선택되며, ε_i 는 평균 0, 분산 σ² 인 가우시안 잡음이다. 회전이 관측되지 않기 때문에 신호 자체가 아니라 회전 군 작용에 대한 궤도만이 식별 가능하다. **배경 및 동기** 이 문제는 cryo‑EM·cryo‑ET와 같은 구조생물학 분야에서 핵심적인 통계적 난제이다. 기존 연구에서는 회전이 균등하게 분포할 때 최소 3차 모멘트가 필요하고, 샘플 복잡도가 σ⁶ 수준으로 급격히 증가한다는 한계가 있었다. 고잡음 환경에서는 회전 추정이 불가능해지므로, 직접 모멘트 기반 접근법이 요구된다. **수학적 프레임워크** 저자들은 SO(3) 위의 조화해석을 활용한다. 구면조화 Y_ℓ^m 와 Wigner D‑행렬 D_ℓ^{m,m'} 로 구성된 기저를 이용해 신호 x 와 회전 분포 ρ 를 각각  x(r,θ,φ)=∑_{ℓ=0}^L ∑_{m=-ℓ}^{ℓ} x_{ℓm}