가중합 트리 모델로 군집 데이터 예측 향상

초록

본 논문은 각 군집마다 개별 의사결정 트리를 학습하고, 테스트 군집에 대한 소속 확률을 가중치로 활용해 예측을 수행하는 가중합 트리(Weighted Sum‑of‑Trees) 모델을 제안한다. 시뮬레이션과 TCGA 육종 데이터 실험을 통해 기존의 일반 결정트리, 랜덤 포레스트, 선형 혼합효과 모델보다 우수한 예측 성능을 보이며, 군집 간 유사성 해석도 가능함을 입증한다.

상세 분석

이 연구는 군집(클러스터) 구조를 가진 데이터에 대한 예측 문제를 기존 혼합효과 모델의 한계—특히 새로운 군집에 대해 랜덤 효과를 추정할 수 없다는 점—을 극복하고자 한다. 제안된 방법은 두 단계로 구성된다. 첫 번째 단계에서는 전체 학습 데이터의 특성 X와 군집 라벨 C를 이용해 다중 클래스 분류 모델(예: 로지스틱 회귀, 나이브 베이즈)을 학습한다. 이 모델은 테스트 샘플이 각 기존 군집에 속할 확률 w₁,…,w_J를 출력하며, 이를 각 군집 트리의 가중치로 사용한다. 두 번째 단계에서는 훈련 군집 j 마다 별도의 결정 트리 T_j 를 학습한다. 테스트 시점에 예측값 ŷ_t 는 Σ_{j=1}^J w_j · T_j(X_t) 로 계산된다. 즉, 새로운 군집은 기존 군집들의 “혼합” 형태로 표현되며, 가중치는 특성 공간에서의 유사성을 정량화한다.

핵심 기술적 기여는 다음과 같다. 첫째, 군집별 트리를 독립적으로 학습함으로써 각 군집 고유의 비선형 관계와 상호작용을 포착한다. 이는 전통적인 GLMM이나 MER‑T와 달리 고정 효과와 랜덤 효과를 선형 결합하는 제한을 피한다. 둘째, 군집 소속 확률을 가중치로 활용함으로써 새로운 군집에 대한 예측을 “전이 학습” 형태로 수행한다. 이는 기존 혼합효과 모델이 고정 효과만을 사용해 외부 군집을 예측하는 방식보다 더 유연하고 정확하다. 셋째, 가중치 자체가 군집 간 유사성 지표가 되므로, 트리 구조와 변수 중요도 비교를 통해 그룹 간 메커니즘 차이를 해석할 수 있다.

시뮬레이션에서는 세 가지 설정을 고려하였다. (1) 비선형 고정 효과와 독립적인 선형 랜덤 효과, (2) 비선형 고정 효과와 상관된 랜덤 효과, (3) 군집마다 서로 다른 기반 함수가 적용되는 경우. 모든 설정에서 제안 모델은 평균제곱오차(MSE) 기준으로 기존 방법들을 앞섰으며, 특히 군집 간 상관 구조가 강할수록 이점이 두드러졌다. 실제 데이터에서는 TCGA 육종 코호트의 T‑cell 비율을 예측했는데, 훈련에 사용되지 않은 육종 아형에 대해서도 높은 예측 정확도를 유지했다. 또한, 각 아형별 트리 구조와 변수 중요도를 비교함으로써 아형 간 면역 환경 차이를 정량적으로 파악할 수 있었다.

한계점으로는 첫 단계의 군집 분류기가 정확하지 않을 경우 가중치가 왜곡되어 예측 성능이 저하될 수 있다는 점이다. 또한, 군집 수가 매우 많아지면 각 군집마다 트리를 학습해야 하는 계산 비용이 증가한다. 저자는 향후 가중치 학습을 베이지안 방식으로 확장하거나, 트리 공유 메커니즘을 도입해 메모리·시간 효율성을 개선할 계획이라고 언급한다. 전반적으로 이 논문은 군집 데이터에 대한 비선형 예측과 군집 간 유사성 해석을 동시에 제공하는 실용적이면서도 이론적으로 탄탄한 프레임워크를 제시한다.