개인 맞춤 치료 효과 예측을 위한 모델링 전략 평가

초록

본 연구는 정밀 의학에서 개인별 치료 효과(PITE)를 추정하기 위해 30여 가지 회귀·머신러닝 모델을 구조화된 시뮬레이션 환경에서 비교한다. 표본 크기, 변수 차원, 다중공선성, 상호작용 복잡성을 변형시켜 RMSE와 효과 방향 정확도(DIR)를 평가했으며, 내부 검증은 과대평가되는 반면 외부 검증(분포 이동 및 고차 상호작용)에서 모델의 약점이 드러났다. 릿지, 라쏘, 엘라스틱넷, PLS, PCR 등 규제·투영 기반 선형 모델이 전반적으로 가장 안정적인 성능을 보였고, 비선형·유연 학습기는 신호가 강하고 표본이 충분할 때만 우수했다.

상세 분석

이 논문은 개인화 치료 의사결정의 핵심인 PITE 추정 문제를 “예측 정확도(RMSE)와 방향 정확도(DIR)”라는 두 축으로 정량화한다. 시뮬레이션 설계는 네 가지 주요 요인—표본 규모(N), 변수 차원(p), 변수 간 상관(ρ), 그리고 치료 효과 이질성(βΔ)의 복잡도—을 체계적으로 변동시켜 현실 데이터의 다양성을 재현한다. 모델군은 (1) 규제 선형(릿지, 라쏘, 엘라스틱넷), (2) 투영 기반(PCR, PLS), (3) 전통 GLM·상호작용 모델, (4) 트리·앙상블(Random Forest, Gradient Boosting, BART), (5) 베이지안(스파이크‑슬래브, 베이지안 신경망), (6) 커널·비선형(Kernel Ridge, Projection Pursuit) 등으로 구분된다.

주요 발견은 다음과 같다. 첫째, 규제·투영 기반 선형 모델은 고차원·다중공선성 상황에서도 편향-분산 균형을 잘 유지해 RMSE와 DIR 모두에서 일관된 우수성을 보였다. 이는 PITE가 두 개의 독립 예측 함수(처치·대조) 차이로 정의되므로, 각 함수의 편향이 반대 부호일 때 오차가 증폭되는 위험을 최소화하기 때문이다. 둘째, 비선형·유연 학습기는 신호 대 잡음비가 높고 표본이 충분히 클 때만 복잡한 상호작용을 포착해 성능 향상을 달성했으며, 그렇지 않은 경우 과적합과 불안정한 방향 판별이 나타났다. 셋째, 내부 교차검증은 모든 모델에서 과도하게 낙관적인 RMSE와 DIR을 제공했으며, 특히 분포 이동(공변량 분포 변화)이나 고차 상호작용이 추가된 외부 검증에서는 성능 격차가 크게 벌어졌다. 이는 실제 임상 적용 시 외부 검증(예: 다른 병원·코호트) 없이 모델을 선택하면 위험이 있음을 시사한다.

또한, 논문은 PITE 오류를 개별 예측 오류(MSE_t, MSE_c)와 편향 교차항(bias_t·bias_c)으로 분해한 이론적 프레임워크를 제시해, “예측 손실 최소화 ≠ PITE 오류 최소화”라는 일반적 오해를 명확히 한다. 실험 결과는 이러한 이론적 기대와 일치했으며, 특히 라쏘·엘라스틱넷이 편향을 적절히 억제하면서 분산을 낮춰 PITE 추정에 가장 적합함을 보여준다.

마지막으로, 저자는 모델 선택 시 “규제·투영 기반 선형 모델을 기본으로 두고, 신호가 충분히 강하고 표본이 큰 경우에만 비선형·앙상블을 보조한다”는 실용적 가이드라인을 제시한다. 또한, 외부 검증 절차와 캘리브레이션 평가(α, β) 등을 반드시 포함시켜야 한다고 강조한다.