베이지안 투영으로 변수 선택과 모델 불확실성 탐색

본 논문은 베이지안 변수 선택 분야에 새로운 관점을 제시한다. 기존 연구에서는 베이지안 모델 선택을 위해 사전 확률을 직접 모델 공간에 할당하거나, 스파스 사전(스파이크‑슬래시, 베타-베르누이 등)을 이용해 변수 포함 여부를 이산적으로 결정했다. 그러나 이러한 접근법은 사전 설계에 민감하고, 복잡한 구조적 제약(예: 계층적 모델) 을 반영하기 어렵다는 한계가 있었다. 저자들은 이러한 문제를 해결하기 위해 “전체 모델에 대한 기대 Kullback‑Leibler(KL) 발산을 최소화하는 투영”이라는 개념을 도입한다. 구체적으로, 전체 모델의 파라미터 θ에 대한 사후분포 p(θ|y) 가 주어졌을 때, 하위 모델 M_sub 에 대한 파라미터 θ_sub 를 다음과 같이 정의한다. θ̂_sub = argmin_{θ_sub∈S_sub} E_{p(θ|y)}