고차원 텐서 혼합효과 모델을 위한 압축 베이지안 프레임워크

본 논문은 고차원 텐서 형태의 고정·랜덤 효과 공변량을 갖는 반복 측정 데이터를 분석하기 위한 새로운 베이지안 혼합‑효과 모델인 CoMET(Compressed Mixed‑Effects Tensor)을 제안한다. 기존의 고차원 혼합‑효과 연구는 주로 벡터형 공변량에 대한 페널티 기반 추정에 초점을 맞추었으며, 텐서형 공변량을 동시에 다루는 베이지안 샘플링 프레임워크는 부재했다. 이러한 격차를 메우기 위해 CoMET은 두 가지 주요 혁신을 도입한다. 첫째, 랜덤 효과 공분산의 차원 축소이다. 원 모델(1)에서는 각 모드 d 에 대해 q_d 차원의 공분산 행렬 Σ_d 를 직접 추정해야 하는데, 이는 O(q_d²) 개의 파라미터를 요구한다. CoMET은 각 모드마다 독립적인 랜덤 프로젝션 행렬 R_d∈ℝ^{k_d×q_d}와 S_d∈ℝ^{k_d×q_d} (k_d≪q_d)를 도입해 Σ_d 의 제곱근 L_d 를 Γ_d=S_d L_d R_d^⊤ 로 압축한다. 압축된 공분산 파라미터 Γ_d 는 k_d×k_d 차원만을 가지며, 가우시안 사전 N(0,τ²I) 를 그대로 적용할 수 있다. 이렇게 하면 랜덤 효과 텐서 A_i 를 압축된 형태 ˜A_i=˜D_i×_1Γ_1×_2…×_DΓ_D 로 표현할 수 있으며, ˜D_i 은 R_d 로 변환된 저차원 코어 텐서이다. 압축된 랜덤 효과와 압축된 랜덤 효과 공변량 ˜Z_{ij}=Z_{ij}×_1S_1×_2…×_DS_D 를 사용함으로써 원래의 고차원 내적 ⟨Z_{ij},A_i⟩ 를 저차원 근사 ⟨˜Z_{ij},˜A_i⟩ 로 대체한다. 둘째, 고정 효과 텐서 B 에 대한 저‑랭크 구조와 마진‑구조 Horseshoe 사전이다. B 를 CANDECOMP/PARAFAC (CP) 형태 B=∑_{r=1}^R λ_r u_{1r}⊗…⊗u_{Dr} 로 분해하고, 각 모드‑마진 u_{dr} 에 대해 Horseshoe 사전(β_{dr}∼N(0,τ_{dr}²), τ_{dr}∼C⁺(0,1))을 부여한다. 이 사전은 스파스한 마진을 강력히 촉진하면서도 큰 신호는 보존한다는 베이지안 “샤프” 특성을 제공한다. 결과적으로 고정 효과 선택이 자동으로 이루어지고, 파라미터 수는 O(R∑_d p_d) 로 선형 확장된다. 계산 알고리즘은 붕괴된 Gibbs 샘플러를 기반으로 한다. 압축된 랜덤 효과 ˜A_i 를 직접 샘플링하지 않고, ˜A_i 를 통합한 사후 분포를 이용해 B 와 τ² 를 동시에 업데이트한다. 이때 필요한 충분통계는 압축된 설계 행렬 ˜Z_{ij}와 X_{ij} 의 내적이며, 행렬 연산은 k_d 와 R 에 비례하는 비용만을 요구한다. 따라서 전체 복잡도는 O(N·(∑_d k_d + R·∑_d p_d)) 로, 텐서 차원이 커져도 거의 선형적으로 증가한다. 이론적 측면에서 저자들은 정규성, 고정 효과 저‑랭크성, 랜덤 효과 압축 정확도 등에 대한 일련의 정규조건을 가정하고, 사후 예측 위험 R_n = E_{new}