희소 데이터에서 강인한 위험 모델링을 위한 앙상블 순위 방법

초록

본 논문은 의료 생존 분석에서 관측 수가 적고 차원이 높은 ‘희소’ 데이터를 다루기 위해, 위험 예측 문제를 이분 순위(bipartite ranking) 문제로 전환하고, 새로운 앙상블 알고리즘인 Smooth Rank를 제안한다. Smooth Rank는 각 특성별 단변량 예측기를 비지도적으로 가중합하는 방식으로 강력한 정규화를 구현하고, 커널 기반 밀도 추정과 LOESS 스무딩을 통해 과적합을 방지한다. 10개의 실제 생존 데이터셋에서 기존 Cox PH와 L1‑정규화 CoxPath와 비교했을 때, N/M 비율이 낮은(즉 데이터가 희소한) 경우 대부분에서 우수한 concordance index(C‑index)를 기록하였다. 또한 훈련 샘플 크기와 특성 수를 변동시키는 실험을 통해, 데이터가 희소할수록 Smooth Rank가 다른 방법보다 안정적임을 입증한다.

상세 분석

본 연구는 의료 분야에서 흔히 마주치는 ‘희소’ 데이터 특성을 명확히 정의하고, 이를 기존의 생존 분석 프레임워크와 비교한다. 전통적인 Cox 비례위험 모델은 사건 발생 시간을 직접 모델링하지만, 샘플이 적고 차원이 높을 때는 파라미터 추정이 불안정해 과적합 위험이 크다. L1‑정규화된 CoxPath는 변수 선택을 제공하지만, 정규화 강도가 데이터 희소성에 비례해 충분히 조절되지 않으면 성능 향상이 제한적이다.

논문은 위험을 “특정 시간 T 이전에 사건이 발생할 확률”로 재정의하고, 이를 이분 클래스로 이진화함으로써 순위 학습으로 전환한다. 이 과정에서 사건 발생 여부만을 고려하므로 관측 시간의 노이즈가 크게 감소한다. 제안된 Smooth Rank는 각 특성 i에 대해 클래스별 커스텀 커널 밀도(g_i1, g_i2)를 추정하고,
q_i(r)= (g_i1(r)−g_i2(r)) / (π_1·g_i1(r)+π_2·g_i2(r))
를 계산한다. 여기서 π_k는 클래스 k의 사전 확률이다. q_i는 클래스 비율 차이를 정규화한 형태로, 밀도 추정 오류에 대한 민감도를 낮춘다. 이후 LOESS(1차 다항식) 스무딩을 적용해 e_qi(x)라는 부드러운 단변량 예측기를 만든다.

가중치 w_i는 해당 예측기의 C‑index(연속형 점수와 이진 결과 간의 concordance)에서 0.5를 뺀 값으로 정의하고, 최고 가중치 µ와 비교해 µ/3 이하인 경우 0으로 강제 shrinkage한다. 이 “post‑filtering”은 강한 예측기 몇 개가 다수의 약한 예측기에 의해 희석되는 현상을 방지한다. 최종 스코어는
F(x)= Σ_i w_i·e_qi(x_i) / Σ_i w_i
로 계산되며, 이는 Naïve Bayes의 가중 투표와 유사하지만, 다변량 최적화 없이 단변량 밀도 기반으로 구성돼 차원의 저주에 강인하다.

실험에서는 10개의 실제 생존 데이터셋(N≈100900, M≈77399)과 두 종류의 시뮬레이션(훈련 샘플 수 감소, 특성 수 증가)을 사용했다. 결과는 N/M 비율이 15 정도인 데이터에서 Smooth Rank가 평균 C‑index 0.710.84를 달성, Cox와 CoxPath는 각각 0.620.78, 0.650.80 수준에 머물렀다. 특히 M≫N인 유전자 발현 데이터(Al, Ro02s 등)에서는 Cox가 적용 불가인 반면 Smooth Rank가 안정적인 성능을 보였다.

이러한 설계는 (1) 단변량 밀도 추정으로 과적합 위험 최소화, (2) 스무딩으로 노이즈에 대한 강인성 확보, (3) 가중치 기반 자동 변수 선택을 통해 하이퍼파라미터 튜닝 없이도 최적 모델을 도출한다는 점에서 의미가 크다. 다만, 커널 밀도 추정 단계에서 데이터가 매우 희소하거나 클래스 불균형이 극심할 경우 q_i 계산이 불안정해질 수 있으며, LOESS 스무딩 파라미터가 고정돼 있어 데이터 특성에 따라 최적화가 필요할 가능성이 있다. 전반적으로, 희소하고 고차원인 의료 위험 예측 상황에서 기존 회귀 기반 방법을 대체하거나 보완할 실용적인 대안으로 평가된다.