KL 근접 알고리즘을 이용한 최대우도 추정 가속화

본 논문은 고차원 역문제에서 최대우도 추정의 효율적인 계산을 목표로, 기존 EM 알고리즘의 수렴 속도와 안정성 문제를 해결하기 위한 새로운 최적화 프레임워크를 제시한다. 서론에서는 3차원 단층촬영, 동적 영상 복원 등 최신 응용 분야에서 빠른 이미지 재구성이 필수적이며, 전통적인 EM이 단조성(monotonicity)은 보장하지만 수렴이 느리다는 점을 지적한다. 이를 극복하기 위해 저자들은 proximal point algorithm의 개념을 차용하고, 근접 페널티 함수로 Kullback‑Leibler(KL) 발산을 선택한다. KL 발산은 두 확률분포 사이의 비대칭 거리로, 완전 데이터의 사후밀도 p(z|θ)와 현재 추정치 p(z|θⁿ) 사이에 적용하면, 기존 EM 단계가 KL‑Proximal 업데이트의 특수 경우가 됨을 보인다. 핵심 알고리즘은 다음과 같다. 매 반복 k에서 완전 데이터의 사후밀도 q_k(z)=p(z|θ_k)를 정의하고, 다음 파라미터 θ_{k+1}를 최소화한다: θ_{k+1}=argmin_θ { -E_{q_k}