소규모 바이오인포매틱스 클러스터링 정확도와 강인성

초록

본 논문은 관측치 수가 변수 수보다 적은 상황, 즉 DNA 마이크로어레이와 같은 소규모 바이오인포매틱스 데이터에서 여러 클러스터링 알고리즘의 정확도와 강인성을 평가한다. 선형 종속성을 가진 랜덤 변수에 잡음이 가해진 시뮬레이션을 통해 오류 비율이 급격히 상승함을 확인하고, 상충되는 두 알고리즘 사이에서 최적 선택을 돕는 사후 기준을 제안한다.

상세 분석

이 연구는 고차원 저표본(high‑dimensional low‑sample) 문제를 다루는 데 있어 클러스터링 알고리즘의 한계를 체계적으로 규명한다. 먼저, 선형 종속성을 갖는 다변량 정규분포를 기반으로 데이터를 생성하고, 가우시안 잡음을 다양한 신호대잡음비(SNR)로 추가한다. 관측치(N)와 변수 수(p)의 비율을 N < p, N ≈ p, N > p 세 구간으로 나누어 각각 10 %~90 % 범위의 오류율을 측정한다. 실험에 포함된 알고리즘은 전통적인 k‑means, 계층적 군집화(average linkage), 자기조직화 지도(SOM), 그리고 모델 기반 EM 클러스터링이다.

주요 발견은 다음과 같다. 첫째, N < p 구간에서는 모든 알고리즘이 오류율이 급격히 상승하는 ‘차원 저주’를 보이며, 특히 거리 기반 k‑means와 계층적 방법이 가장 취약했다. 이는 고차원 공간에서 거리 측정이 의미를 잃고, 잡음에 과도하게 민감해지는 현상과 일치한다. 둘째, EM 기반 모델은 사전 가정된 공분산 구조가 실제와 일치할 때만 상대적으로 견고했으며, 공분산 추정이 불안정하면 오히려 오류가 확대된다. 셋째, SOM은 비선형 차원 축소와 군집화를 동시에 수행함으로써 N < p 상황에서도 비교적 낮은 오류율을 유지했지만, 학습률과 토폴로지 설정에 따라 결과 변동성이 크다.

논문은 또한 두 알고리즘이 서로 다른 군집 결과를 도출할 때 선택할 수 있는 사후 기준(a posteriori criterion)을 제시한다. 이 기준은 (1) 군집 내부 평균 제곱오차(MSW)와 (2) 군집 간 평균 제곱거리(MSB)를 이용한 비율, 그리고 (3) 부트스트랩 재샘플링을 통한 군집 안정성 지표를 결합한다. 구체적으로, MSW/MB 비율이 낮고 부트스트랩 재현율이 높은 알고리즘을 우선 선택하도록 설계했으며, 실험 결과 이 기준이 실제 마이크로어레이 데이터에서 상충되는 결과를 효과적으로 중재함을 확인했다.

이러한 결과는 소규모 바이오인포매틱스 연구에서 클러스터링 선택 시 단순히 알고리즘의 명성이나 실행 속도만을 고려해서는 안 된다는 중요한 교훈을 제공한다. 특히, 데이터 차원과 표본 크기의 비율을 사전에 평가하고, 필요시 차원 축소(PCA, ICA)나 정규화 기법을 적용한 뒤 클러스터링을 수행하는 것이 오류를 최소화하는 실용적인 전략이다.