비음수 삼각합 모델의 최대우도 추정 다양체 위 뉴턴 유사 알고리즘

초록

Fernández‑Durán(2004)에서 제안된 비음수 삼각합(NNTS) 분포는 매개변수 공간이 고차원 구면이라는 특성을 갖는다. 본 논문은 이 구면 위에서 뉴턴‑유사 최적화 절차를 설계하여, NNTS 모델의 최대우도 추정치를 효율적으로 계산하는 방법을 제시한다. 알고리즘은 기하학적 구조를 활용해 수렴 속도를 크게 향상시키며, 실험을 통해 기존 EM 기반 방법보다 정확도와 속도에서 우수함을 입증한다.

상세 분석

NNTS 모델은 원형 데이터에 대한 유연한 밀도 함수를 제공한다. 매개변수는 복소수 계수 c₀,…,c_M 으로 표현되며, 이들 계수는 ‖c‖₂=1이라는 제약 하에 고차원 구면 S^{2M+1} 위에 위치한다. 따라서 전통적인 유클리드 공간에서의 최적화 기법을 그대로 적용하면 제약 위반이나 수렴 문제를 야기한다. 저자는 이러한 제약을 자연스럽게 다루기 위해 리만 다양체 이론을 도입한다. 구면은 완비 리만 다양체이며, 그 위에서 정의된 리히터 연결을 이용해 기하학적 그라디언트와 헤시안을 계산한다. 구면상의 기하학적 그라디언트는 기존 그라디언트를 구면 접공간에 투영한 형태이며, 헤시안은 접공간에 제한된 형태로 전개된다.

알고리즘은 크게 두 단계로 구성된다. 첫 번째는 초기값을 구하는 단계로, 무작위 혹은 데이터 기반 방법으로 ‖c‖₂=1을 만족하는 초기 벡터를 만든다. 두 번째는 뉴턴‑유사 업데이트 단계이다. 여기서는 라인 서치 대신 구면 위의 지오데식(대원호)을 따라 이동한다. 구체적으로, 현재 추정치 c^{(k)} 에 대해 기하학적 그라디언트 g^{(k)} 와 제한된 헤시안 H^{(k)} 을 구하고,
Δc = -