베이지안 MIDAS 회귀를 위한 변분 추론 고속 CAVI 알고리즘

본 논문은 고주파 데이터를 저주파 예측식에 통합하는 Mixed Data Sampling(MIDAS) 회귀 모델을 베이지안 프레임워크로 확장하고, 그에 맞는 효율적인 변분 추론 알고리즘을 개발한다. 기존 베이지안 MIDAS 연구는 주로 Gibbs 샘플러나 정밀도 기반 MCMC에 의존했으며, 파라미터 수가 늘어나면 샘플링 효율이 급격히 저하되고, 특히 β·θ와 같은 이중선형 구조는 HMC(NUTS)와 같은 현대적인 샘플러에서도 수렴 문제를 일으킨다. 이를 해결하기 위해 저자는 다음과 같은 일련의 설계와 이론적 기여를 제시한다. 1. **모델 정의 및 재파라미터화** - 기본 MIDAS 회귀식 y_t = α + Σ_j β_j·˜x_j(t;θ_j) + ε_t 에서 ˜x_j는 고주파 관측치와 가중치 함수 w_j(k;θ_j)의 선형 결합으로 정의된다. - 선형 가중치 파라미터화 w_j(k;θ_j)=ϕ(k)ᵀθ_j (Almon 다항식 혹은 B‑spline) 를 채택해 β_j와 θ_j 사이의 곱셈이 bilinear 형태가 되지만, 각 블록을 조건부로 보면 선형 회귀가 된다. - 스케일 불확정성을 해소하기 위해 정규화 제약 Σ_k w_j(k;θ_j)=1 을 null‑space 재파라미터화 θ_j = θ₀_j + N_j η_j 로 변환한다. 여기서 η_j 가 자유 파라미터이며, c_jᵀθ_j=1 제약을 자동 만족한다. 2. **조건부 공액 구조와 Gibbs 샘플링** - 재파라미터화 후 모델은 ξ=(α,β₁,…,β_J)와 η_j 로 구성된 두 레벨 블록 구조를 갖는다. ξ|η,σ²는 가우시안, η_j|ξ,σ²도 가우시안, σ²|·는 역감마 형태가 되어 Gibbs 샘플링이 가능하지만, 블록 간 상관관계로 인해 ESS가 급감한다. 3. **좌표 상승 변분 추론(CAVI) 설계** - 평균‑필드 근사 q(ξ)·∏_j q(η_j)·q(σ²) 를 채택하고 ELBO를 최대화한다. - ξ 블록 업데이트: Σ_ξ⁻¹ = E