베이지안 사후분포의 마이크로모드와 MCMC 성능 저하

초록

본 논문은 무거운 꼬리를 가진 오류모델(특히 Student‑t)에서 발생하는 “마이크로모드”라 불리는 국소 최대점들을 이론적으로 규명하고, 이러한 모드가 Zig‑Zag 같은 비확률적 MCMC 알고리즘의 탈출 시간을 지수적으로 늘려 성능을 급격히 저하시킨다는 점을 보여준다.

상세 분석

본 연구는 베이지안 위치 모델 y_j = x + ε_j (ε_j ∼ t_ν)에서, 데이터 생성분포 P가 다항 꼬리 β > 0 을 갖는 경우를 고려한다. 가정 2.1에 따라 P는 반경 |y| 에 대해 h(|y|) ∈ RV_{-(β+d)} 를 만족하므로, 극단 관측값 Y_{(n‑k)} 의 크기는 n^{1/β} 스케일로 성장한다(정리 2.1). 이때 Y_{(n‑k)} 가 다른 관측값들로부터 충분히 격리되면, 로그 사후밀도 log π_n(x) 의 기울기 S_n(x) 는 해당 관측값만이 지배하게 된다. β ≤ 1이면 n^{1‑1/β} 가 작아져 주변 데이터의 기여가 무시되고, 반경 √ν 내에 고유한 국소 최대점 x⁺n 이 존재함을 정리 2.3이 증명한다. 이 마이크로모드의 위치 오차는 |Y{(n‑k)}‑x⁺_n| ≤ C n^{1‑1/β} (β<1) 혹은 2√ν (β=1) 으로, 폭 W_n ≈ n^{1/β‑1} 으로 다항적으로 확대된다. 반면 β>1이면 주변 데이터의 합이 n^{1‑1/β} →∞ 이므로, 기울기가 어느 방향으로든 음이 되어 마이크로모드가 형성되지 않는다(정리 2.2).

계산적 측면에서는 1차원 Zig‑Zag 프로세스(ZZP)를 분석한다. ZZP는 연속시간 비가역적 PDMP로, 이벤트율이 |S_n(x)| 에 비례한다. 마이크로모드 내부에서는 S_n(x) ≈ 0 이므로 전환이 거의 일어나지 않으며, 탈출 시간 τ_n 의 기대값은 E