고차원 데이터에서 큰 평균 부분행렬 찾기

초록

본 논문은 실수값 데이터 행렬에서 평균값이 높은 큰 부분행렬을 탐색하는 새로운 biclustering 기법 LAS를 제안한다. Bonferroni 기반 유의성 점수를 이용해 부분행렬의 크기와 평균값 사이의 trade‑off를 최적화하고, 잔차 행렬에 대해 반복적으로 적용한다. 두 개의 유전자 발현 데이터와 시뮬레이션을 통해 기존 방법보다 생물학적 의미와 분류 성능에서 우수함을 입증하였다.

상세 분석

LAS(Large Average Submatrix) 알고리즘은 고차원 데이터에서 의미 있는 샘플‑변수 연관성을 찾기 위한 통계적 접근법이다. 핵심 아이디어는 “평균값이 큰” 부분행렬을 찾는 것이며, 이를 위해 행과 열을 연속적으로 선택할 필요 없이 임의의 집합으로 구성한다. 알고리즘은 먼저 전체 행렬의 평균과 분산을 추정한 뒤, 후보 부분행렬의 평균이 우연히 발생할 확률을 Bonferroni 보정된 p‑값으로 계산한다. 이 점수는 부분행렬의 크기(행·열 수)와 평균값을 동시에 고려해, 작은 고평균 영역과 큰 저평균 영역 사이의 균형을 자동으로 맞춘다.

점수가 가장 낮은(즉, 가장 유의한) 부분행렬을 선택하고, 해당 행과 열을 원 행렬에서 제거하거나 평균값을 빼는 “잔차” 연산을 수행한다. 이렇게 얻어진 잔차 행렬에 대해 동일한 탐색을 반복함으로써 다중 bicluster를 순차적으로 추출한다. 반복 과정은 사전 정의된 최대 bicluster 수 혹은 남은 행렬의 유의성이 사라질 때까지 진행된다.

통계적 근거가 명확히 제시된 점은 기존의 탐색 기반 혹은 모델 기반 biclustering 방법과 차별화된다. 특히, Bonferroni 보정은 다중 비교 문제를 엄격히 제어하면서도 부분행렬 크기에 대한 페널티를 자연스럽게 부여한다. 이는 “큰” bicluster가 반드시 의미 있는 것이 아니라, 평균값이 충분히 높아야만 선택된다는 의미이다.

실험에서는 두 개의 실제 유전자 발현 데이터(Leukemia와 Colon Cancer)를 사용해 LAS와 7개의 대표적인 biclustering 기법(Cheng‑Church, Plaid, Spectral, FABIA 등)을 비교하였다. 정량적 평가지표(크기, 평균, 평균 제곱 오차), 생물학적 풍부도(GO term, KEGG pathway), 임상적 연관성(생존곡선, 치료 반응) 및 질병 아형 분류 정확도 등을 종합적으로 분석했다. LAS는 평균값이 높은 큰 bicluster를 다수 발견했으며, 특히 임상 변수와의 연관성이 높은 클러스터를 제공해 분류 모델의 AUC를 기존 방법 대비 5~10% 향상시켰다.

시뮬레이션에서는 다양한 신호‑대‑노이즈(SNR) 조건과 부분행렬 크기 변화를 적용해 LAS의 검출력과 안정성을 평가했다. SNR이 1.5 이상이면 거의 완벽한 복구율을 보였으며, 노이즈가 증가해도 평균값이 충분히 큰 경우(예: 2σ 이상)에는 유의성을 유지했다. 반면, 매우 작은 평균 차이를 가진 작은 bicluster는 탐지율이 낮아, LAS가 “큰 평균”에 초점을 맞춘 설계임을 재확인한다.

한계점으로는 (1) Bonferroni 보정이 지나치게 보수적일 경우 작은 유의한 패턴을 놓칠 수 있고, (2) 평균값만을 기준으로 하기 때문에 변동성이 큰 패턴(예: 이분산 또는 비대칭 분포)에는 민감하지 않을 수 있다. 또한, 현재 구현은 R 기반이며 메모리 사용량이 행·열 수에 비례해 증가하므로, 수십만 차원의 데이터에 대해서는 추가적인 최적화가 필요하다.

전반적으로 LAS는 통계적 엄격성, 구현의 단순성, 그리고 실제 생물학적 데이터에서 입증된 효용성을 갖춘 biclustering 도구로, 특히 대규모 평균값 차이가 뚜렷한 생물학적 현상을 탐색하고자 하는 연구자들에게 유용할 것으로 판단된다.