리만 다양체 위 다항 회귀와 형태 분석

초록

본 논문은 리만 다양체와 리 군에서 파라메트릭 다항 회귀 이론을 구축하고, 켄달 형태 공간에 적용한다. 고차 미분 기하학적 구조를 이용해 다항 곡선을 정의하고, 이를 이용해 고전적인 쥐 두개골 성장 데이터와 알츠하이머 연구의 뇌량 노화 데이터를 분석한다. 실험 결과, 다항 회귀가 선형(지오데식) 회귀보다 복잡한 비선형 변화를 더 정확히 포착함을 보여준다.

상세 분석

이 논문은 리만 다양체 위에서의 파라메트릭 다항 회귀를 체계적으로 정의하고, 기존의 지오데식(1차 다항) 회귀를 일반화한다는 점에서 이론적·실용적 의미가 크다. 저자들은 먼저 다양체 M에 대한 곡선 γ(t)와 그에 대한 공변 미분 ∇를 이용해 고차 미분 방정식
∇_{\dotγ}^k \dotγ = 0 (k≥1)
을 제시한다. k=1이면 전통적인 지오데식 방정식이 되고, k>1이면 고차 다항 곡선이 된다. 이 방정식은 초기값(위치와 초기 미분계수들)을 지정함으로써 유일하게 해를 구할 수 있다. 특히, 리 군 G에서는 왼쪽(또는 오른쪽) 번역에 의해 정의된 연결을 사용해 Lie 대수 𝔤에서의 다항 곡선을 직접 계산할 수 있어, 수치적 구현이 크게 단순화된다.

다항 회귀 모델은 관측 데이터 {x_i∈M, t_i∈ℝ}에 대해 최소제곱 목적함수
E(θ)=∑_i d^2(γ_θ(t_i), x_i)
을 최소화하는 파라미터 θ(초기 위치와 초기 속도, 가속도 등)를 찾는 형태로 전개된다. 여기서 d는 리만 거리이며, 최적화는 Riemannian gradient descent 혹은 신뢰구간 방법을 사용한다. 저자들은 또한 파라미터 공간이 비선형이므로, 초기값 선택과 수렴성 검증에 대한 실험적 가이드를 제공한다.

핵심적인 응용은 켄달 형태 공간(Kendall shape space)이다. 이 공간은 회전·크기·위치를 제거한 형태를 나타내며, 비유클리드 구조를 가진다. 저자들은 쥐 두개골 데이터와 OASIS 코퍼스 콜로섬 데이터에 대해 2차·3차 다항 회귀를 적용한다. 결과는 선형(지오데식) 회귀가 포착하지 못한 비선형 성장·노화 패턴을 드러낸다. 예를 들어, 쥐 두개골의 경우 성장 초기에는 급격한 변형이 일어나고, 이후 완만해지는 형태 변화를 2차 다항 곡선이 정확히 모델링한다. 코퍼스 콜로섬에서는 연령에 따라 비대칭적 퇴화가 진행되는데, 3차 다항 회귀가 이러한 복합적인 변화를 시각화하고 정량화한다.

수치 실험에서는 모델 선택 기준(AIC, BIC)과 교차 검증을 통해 차수(k)를 결정한다. 또한, 리 군 G=SO(3)와 같은 경우, 다항 회귀가 회전 파라미터의 시간적 변화를 부드럽게 추정함을 보인다. 전체적으로, 이 논문은 리만 기하학과 통계학을 연결하는 새로운 도구를 제공하며, 복잡한 비선형 변화를 가진 데이터에 대한 해석력을 크게 향상시킨다.