가우시안 그래프 모델 선택을 위한 경험적 베이즈 절차

본 논문은 분해가능한 가우시안 그래프 모델(DAGM)의 구조 선택을 위한 새로운 베이즈 방법론을 제시한다. 먼저, 그래프 G가 주어졌을 때 공분산 행렬 Σ_G에 대해 하이퍼‑역와이시트(HIW) 사전 π(Σ_G|G,δ,Φ)를 채택한다. HIW 사전은 각 클리크 C에 대해 역와이시트(IW) 사전이 독립적으로 적용되는 형태이며, 자유도 δ와 위치 행렬 Φ(=τIₚ) 로 완전히 정의된다. 이 사전은 분해가능 그래프에 대해 닫힌 형태의 주변가능도와 사후 분포를 제공한다는 장점이 있다. 그러나 HIW 사전의 하이퍼파라미터 δ, τ, 그리고 그래프 사전의 엣지 포함 확률 r 은 사후 확률에 큰 영향을 미친다. 기존 연구들은 δ와 τ를 고정하거나 계층적 사전으로 모델링했지만, 하이퍼파라미터 자체에 대한 사전 선택이 또 다른 주관성을 도입한다. 저자들은 이러한 문제를 해결하기 위해 경험적 베이즈(Empirical Bayes) 접근을 채택한다. 즉, θ=(τ,r) 를 데이터 Y로부터 최대우도 추정(MLE)한다. MLE를 직접 계산하기 위해서는 주변가능도 f(Y|θ)=∑_{G∈D_p} h_G(δ,τIₚ)h_G(δ+n,τIₚ+S_Y)π(G|r) 를 평가해야 하는데, p가 10을 초과하면 D_p(분해가능 그래프 집합)의 규모가 급격히 커져 직접 합산이 불가능하다. 따라서 저자들은 EM 프레임워크를 도입한다. 관측 데이터 Y와 숨은 변수 (G,Σ_G)를 완전 데이터로 보고, θ를 업데이트한다. E‑step에서 완전 데이터 로그우도의 기대값 Q(θ|θ^{(t)}) 를 계산해야 하는데, 이는 폐쇄형이 아니다. 이를 해결하기 위해 Stochastic Approximation EM(SAEM) 을 사용하고, 시뮬레이션 단계는 MCMC로 대체한다. 즉, SAEM‑MCMC 알고리즘을 적용한다. SAEM‑MCMC는 매 반복마다 현재 θ^{(t)} 에 대한 사후 π(G,Σ_G|Y,θ^{(t)}) 를 목표로 하는 마코프 체인을 실행한다. 그래프 G에 대한 제안은 기존의 add/delete 제안보다 더 효율적인 새로운 Metropolis‑Hastings 스킴을 사용한다. 구체적으로, 현재 그래프의 클리크와 분리자를 이용해 가능한 엣지를 선택하고, 선택된 엣지를 추가하거나 삭제하는 방식으로 새로운 그래프 G' 를 생성한다. 제안 확률 q(G→G') 와 역제안 확률 q(G'→G) 를 정확히 계산함으로써 Metropolis‑Hastings 비율을 구하고, 이를 통해 상세한 균형 조건을 만족한다. 이 과정은 그래프 공간을 보다 넓게 탐색하게 하여 수렴 속도를 크게 향상시킨다. MCMC 샘플링이 완료되면, SA 단계에서 충분히 작은 학습률 γ_t 를 사용해 Q_t 를 업데이트하고, M 단계에서 τ와 r 를 각각 폐쇄형 해(τ는 로그-우도 미분식으로, r은 베르누이 사전의 최대우도 해) 로 최적화한다. 이때 δ는 1로 고정하여 사전 가중치를 하나의 관측치와 동일하게 설정한다. 수렴 이론은 SAEM 일반 결과에 기반한다. 완전 데이터 로그우도가 지수족에 속하고, 제안된 마코프 체인이 에르고딕하고 정합적인 경우, θ^{(t)} 가 주변가능도의 국부 최대값에 거의 확실히 수렴한다는 것이 증명된다. 실험에서는 (1) 시뮬레이션 데이터(p=20,30,40)와 (2) 실제 유전 데이터(예: 골드만 데이터셋)를 사용해 성능을 평가한다. 시뮬레이션에서는 제안된 그래프 탐색이 기존 Armstrong et al. (2009) 방법 대비 평균 로그 주변가능도와 정확도(정답 그래프와의 Hamming 거리)에서 유의하게 우수함을 보였다. 실제 데이터에서는 자동 추정된 τ와 r 가 적절히 스파스한 그래프를 생성했으며, 도출된 네트워크는 알려진 생물학적 상호작용과 높은 일치도를 보였다. 결론적으로, 본 논문은 (i) 하이퍼‑역와이시트 사전의 하이퍼파라미터를 경험적 베이즈 방식으로 자동 추정하고, (ii) SAEM‑MCMC와 개선된 그래프 메트로폴리스 제안을 결합해 대규모 분해가능 가우시안 그래프 모델 선택을 효율적이고 안정적으로 수행할 수 있음을 입증한다. 이 방법은 사전 선택에 대한 주관성을 크게 감소시키며, 복잡한 다변량 데이터에서 구조적 의존성을 탐색하는 실무자에게 유용한 도구가 될 것이다.