유전체 데이터에서 앙상블 분류기의 비교 분석

본 논문은 유전체 분야에서 흔히 마주치는 두 가지 어려운 분류 문제, 즉 단백질 기능 예측과 유전적 상호작용(GI) 예측을 대상으로, 다양한 이기종(heterogeneous) 앙상블 방법들의 실제 성능을 체계적으로 비교한다. 연구자는 27종의 베이스 학습기를 선정했으며, 이들은 R 패키지와 WEKA 인터페이스를 통해 구현되었다. 각 학습기는 10‑fold 교차검증을 수행하고, 각 훈련 셋을 10번 부트스트랩 재샘플링한 뒤, 다수 클래스에 대한 언더샘플링을 적용해 클래스 불균형을 완화한다. 이렇게 생성된 270개의 베이스 모델은 각각 확률형 예측을 제공한다. 데이터셋은 총 4개로 구성된다. GI 데이터셋은 152개의 피처와 9,994개의 양성, 125,509개의 음성 샘플을 포함한다. 단백질 기능 예측은 PF1, PF2, PF3이라는 세 개의 Gene Ontology Biological Process 라벨을 대상으로 하며, 각각 약 300개의 양성 샘플과 3,600~3,700개의 음성 샘플을 포함한다. 이러한 데이터는 극심한 클래스 불균형, 결측치, 다양한 스케일의 피처, 그리고 노이즈가 섞여 있어 전통적인 단일 모델 접근법으로는 한계가 있다. 논문에서 비교된 앙상블 방법은 네 가지이다. 1) 단순 평균(aggregation)은 모든 베이스 모델의 확률을 평균해 최종 예측을 만든다. 2) 메타러닝, 구체적으로 스태킹은 레벨‑0 모델들의 확률을 입력으로 로지스틱 회귀(레벨‑1) 메타 모델을 학습한다. 로지스틱 회귀의 가중치는 각 베이스 모델의 상대적 중요도를 직관적으로 보여준다. 3) 클러스터 기반 메타러닝은 Pearson 상관계수 기반 거리(1‑|ρ|)로 베이스 모델을 군집화하고, 군집 내 평균 혹은 군집별 스태킹을 수행한다. 이는 모델 간 다중공선성을 감소시키고, 군집 간 다양성을 활용한다. 4) 앙상블 선택은 Caruana의 CES(Ensemble Selection) 알고리즘을 기반으로, 현재 앙상블에 후보 모델을 추가했을 때 AU‑ROC가 최대가 되는 모델을 반복 선택한다. 여기서는 후보를 전부 평가하고, 동일 모델을 여러 번 추가할 수 있게 하여 고성능 모델에 가중치를 부여하면서도 다양성을 유지한다. 성능 평가는 모든 테스트 스플릿의 예측을 하나로 모아 AU‑ROC를 계산한다. 베이스 모델들의 개별 AU‑ROC는 0.55~0.79 사이였으며, 랜덤 포레스트와 GBM이 가장 높은 개별 성능을 보였다. 단순 평균은 평균 0.71 수준으로, 베이스 모델들의 평균적인 강점을 활용했지만, 캘리브레이션 차이를 보정하지 못해 한계가 있었다. 스태킹은 전체 데이터셋에서 평균 AU‑ROC 0.78을 기록하며 가장 우수한 성능을 보였다. 특히 PF2와 PF3에서는 0.75~0.78 수준의 일관된 향상을 달성했다. 이는 로지스틱 회귀 메타 모델이 베이스 모델들의 예측을 효과적으로 가중합했기 때문이다. 클러스터 기반 스태킹은 군집 수에 따라 성능 변동이 있었지만, 적절히 4~6개의 군집을 설정했을 때 전통 스태킹과 비슷한 수준을 유지했다. 앙상블 선택(CES)은 특히 GI 데이터셋에서 0.73의 AU‑ROC를 달성해, 불균형이 심하고 양성 샘플이 적은 상황에서도 효과적임을 입증했다. CES는 후보 모델을 전체 평가하고, 동일 모델을 여러 번 선택할 수 있게 함으로써 고성능 모델에 높은 가중치를 부여하면서도 다양성을 유지한다. 또한, CES는 베이스 모델의 캘리브레이션 오류에 어느 정도 강인성을 보여, 스태킹보다 캘리브레이션이 부정확한 경우에 더 안정적인 결과를 제공한다. 가중치 분석 결과, CES와 스태킹이 비슷한 베이스 모델에 높은 가중치를 할당한다는 점이 밝혀졌다. 이는 두 방법이 ‘다양성‑정확성 트레이드오프’를 동일한 목표 함수(예측 정확도) 하에서 다른 최적화 전략으로 접근한다는 의미이다. 스태킹은 메타 모델을 통해 직접 가중치를 학습하고, CES는 반복적인 후보 평가와 선택 과정을 통해 암묵적으로 가중치를 조정한다. 논문은 또한 캘리브레이션이 이기종 앙상블 성능에 미치는 영향을 조사했다. 베이스 모델들의 확률 출력이 과도하게 편향된 경우, 스태킹은 메타 모델이 이러한 편향을 보정하기 어려워 성능 저하가 발생한다. 반면 CES는 후보 모델을 여러 번 선택하면서 자연스럽게 캘리브레이션 오류를 평균화한다. 따라서 캘리브레이션이 불안정한 상황에서는 CES가 더 견고한 선택이 될 수 있다. 결론적으로, 이 연구는 이기종 앙상블이 복잡하고 불균형적인 유전체 데이터에 강력한 해결책이 될 수 있음을 실증한다. 메타러닝(스태킹)과 앙상블 선택은 서로 보완적인 역할을 수행하며, 각각 다양성과 정확성 사이의 균형을 다른 방식으로 최적화한다는 새로운 통찰을 제공한다. 향후 연구 방향으로는 베이스 모델의 다양성을 자동으로 증진시키는 메타-모델 생성, 베이지안 최적화 기반 가중치 학습을 결합한 하이브리드 앙상블, 그리고 대규모 유전체 데이터에 대한 실시간 앙상블 추론 프레임워크 등이 제시된다.