VICatMix 이산 바이오메디컬 데이터의 변분 베이지안 클러스터링 및 변수 선택

초록

VICatMix은 변분 베이지안 추론을 이용해 고차원 이산(범주형) 바이오메디컬 데이터를 효율적으로 군집화하고, 변수 선택을 동시에 수행하는 모델이다. 과잉 혼합 모델과 베이지안 모델 평균화를 통해 군집 수와 중요한 변수들을 자동 추정하며, 다중 초기값을 평균화한 코클러스터링 매트릭스로 지역 최적화 문제를 완화한다. 시뮬레이션 및 TCGA 실험에서 높은 정확도와 빠른 실행 속도를 보이며, 다오믹스 통합 분석에서도 새로운 암 아형을 발견한다.

상세 분석

본 논문은 범주형(이산) 바이오메디컬 데이터, 특히 ‘omics 데이터와 같은 고차원 데이터를 대상으로 한 클러스터링 방법론을 제시한다. 기존의 k‑means, 계층적 군집화와 같은 휴리스틱 방법은 통계적 해석이 부족하고, EM 기반 혼합 모델은 군집 수 K를 사전에 지정해야 하는 한계가 있다. 베이지안 접근은 K를 추정 가능하게 하지만, MCMC 기반 추론은 계산 비용이 크고 라벨 스위칭, 수렴 문제 등에 취약하다.

VICatMix은 이러한 문제점을 해결하기 위해 다음과 같은 핵심 설계를 도입한다.

1. 과잉 혼합 모델(Over‑fitted mixture): K를 실제 군집 수보다 크게 설정하고, Dirichlet(α₀) 사전분포에서 α₀<1을 사용해 불필요한 군집의 혼합 비중을 0에 가깝게 만든다. 이론적으로 관측치가 무한히 많아질 경우 빈 군집이 자동으로 사라져 진짜 K를 추정할 수 있다.

2. 변수 선택 메커니즘: 각 변수 j에 대해 이진 선택 지표 γ_j를 도입하고, γ_j∼Bernoulli(δ_j), δ_j∼Beta(a) 사전으로 변수의 포함 여부를 확률적으로 학습한다. γ_j=0인 경우 해당 변수는 군집 구조와 무관한 ‘null’ 파라미터 Φ₀_j를 사용해 모델에 영향을 주지 않는다. 이는 고차원 잡음 변수가 다수 존재하는 ‘omics’ 데이터에 특히 유용하다.

3. 변분 베이지안 추론(Variational Inference, VI): 평균장(mean‑field) 가정을 통해 q(θ)=q(Z)q(π)q(Φ)q(γ)q(δ) 형태로 근사 posterior를 구성하고, ELBO를 최대화한다. VI는 MCMC에 비해 deterministic하고 스케일이 뛰어나 대규모 TCGA 데이터셋에서도 수분 내에 수렴한다.

4. 다중 초기값 평균화와 코클러스터링 매트릭스: VI는 초기값에 민감해 지역 최적에 머물 수 있다. 이를 보완하기 위해 M번의 랜덤 초기화를 수행하고, 각 실행에서 얻은 군집 할당 z^{(m)}를 이용해 N×N 코클러스터링 행렬 P_{ij}= (1/M)∑_m 1{z_i^{(m)}=z_j^{(m)}}를 만든다. 이후 ‘Medvedovic’ 계층적 군집화 혹은 변형 정보(VI) 최적화를 적용해 하나의 대표 군집 Z*를 도출한다. 이 과정은 MCMC 후처리에서 사용되는 posterior similarity matrix와 유사하지만, 계산량이 크게 감소한다.

5. 선택 변수 요약: M번 실행에서 γ_j가 1인 비율을 계산하고, τ=0.5 혹은 0.95와 같은 임계값을 적용해 최종 선택 변수 집합을 결정한다. 이는 변수 선택의 불확실성을 정량화하고, 해석 가능한 바이오마커를 제공한다.

실험에서는 (i) 베타(1,5) 분포로 생성된 이진 시뮬레이션 데이터에서 군집 정확도와 변수 회복율이 기존 BayesBinMix, mclust, FlexMix 등을 앞섰으며, (ii) TCGA의 다오믹스 데이터(유전체, 전사체, 메틸화 등)에서 기존 방법보다 적은 실행 시간(수 초 vs 수 시간)으로 유의미한 암 아형을 재현하고, 새로운 드라이버 유전자를 제시했다. 또한, 통합 클러스터링 사례에서는 서로 다른 ‘omics’ 레이어를 동시에 입력해 기존 단일 레이어 분석보다 더 세밀한 아형 구분이 가능함을 보였다.

한계점으로는 변분 근사의 편향이 존재할 수 있고, 초기에 K를 과도하게 크게 잡을 경우 메모리 사용량이 증가한다는 점이다. 또한, 변수 선택 사전(a=2) 설정이 데이터마다 최적이 아닐 수 있어 사전 민감도 분석이 필요하다. 향후 연구에서는 스파스 구조를 더 강하게 유도하는 하이퍼파라미터 자동 튜닝, 비정형 범주(다중 레벨) 변수에 대한 확장, 그리고 온라인 VI를 통한 실시간 데이터 스트리밍 적용을 제안한다.