다중 유전자 발현 분석을 위한 파티션 디커플링 방법

초록

본 논문은 비선형·비볼록 구조를 포착할 수 있는 무감독 학습 기법인 파티션 디커플링 방법(PDM)을 유전자 발현 데이터에 적용한다. PDM은 개별 유전자의 차등 발현이 미미해도 다중 유전자의 결합 패턴을 통해 세포 유형·처리 효과를 높은 정확도로 구분한다. 공개 데이터셋을 이용한 실험에서 기존 클러스터링·PCA 기반 방법보다 우수한 성능을 보였으며, 경로별 분석을 통해 메커니즘적으로 연관된 유전자 집합을 식별할 수 있음을 입증한다.

상세 분석

파티션 디커플링 방법(PDM)은 데이터의 복잡한 토폴로지를 탐색하기 위해 두 단계의 파티셔닝을 수행한다. 첫 번째 단계에서는 고차원 공간에서 거리 기반 그래프를 구축하고, 스펙트럴 클러스터링을 통해 초기 파티션을 만든다. 여기서 사용되는 라플라시안 행렬은 데이터 포인트 간의 유사성을 정량화하며, 비선형 구조를 보존한다는 장점이 있다. 두 번째 단계에서는 각 초기 파티션 내부에서 다시 한 번 파티셔닝을 수행하는데, 이때는 로컬 밀도와 방향성을 고려한 커널 함수를 적용한다. 이렇게 두 번의 파티셔닝을 거치면, 전역적인 클러스터와 로컬 서브클러스터가 동시에 드러나며, 이는 전통적인 단일 단계 클러스터링이 놓치기 쉬운 미세한 변이를 포착한다.

유전자 발현 데이터에 PDM을 적용할 때 핵심적인 전처리 단계는 로그 변환 후 Z-스코어 정규화이다. 이는 서로 다른 스케일의 유전자를 동일한 기준으로 비교할 수 있게 하며, 스펙트럴 분석에서 발생할 수 있는 수치적 불안정을 감소시킨다. 또한, 차원 축소를 위해 주성분 분석(PCA) 대신 비선형 임베딩인 t-SNE나 UMAP을 병행 사용하지 않는다. 이는 PDM 자체가 비선형 구조를 보존하면서도 고차원 정보를 직접 활용하기 때문이다.

논문에서는 두 개의 공개 데이터셋—마우스 뇌 조직의 세포 유형 분류와 인간 암 세포주에 대한 약물 처리 효과 분석—에 PDM을 적용하였다. 첫 번째 데이터셋에서는 기존의 K-평균, 계층적 클러스터링, 그리고 PCA+K-평균 조합이 평균 78%의 정확도를 보인 반면, PDM은 92% 이상의 정확도로 세포 유형을 구분했다. 두 번째 데이터셋에서는 약물 처리군과 대조군 사이의 차등 발현 유전자가 거의 없었음에도 불구하고, PDM이 도출한 다중 유전자 패턴이 85% 이상의 분류 정확도를 달성하였다. 이는 개별 유전자의 발현 차이가 작아도, 복합적인 상호작용을 포착함으로써 의미 있는 바이오마커를 추출할 수 있음을 시사한다.

또한, 저자들은 PDM을 경로별로 적용하는 파이프라인을 제안한다. KEGG 또는 Reactome과 같은 사전 정의된 유전자 집합을 각각 독립적으로 PDM에 투입하면, 각 경로 내에서 가장 변별력 있는 서브클러스터를 식별할 수 있다. 이를 통해 특정 생물학적 과정(예: 세포 주기, DNA 복구, 면역 반응)이 특정 페노타입과 어떻게 연관되는지를 정량적으로 해석할 수 있다. 특히, DNA 복구 경로에서 도출된 서브클러스터는 방사선 치료에 대한 저항성을 예측하는 데 높은 민감도와 특이도를 보였다.

기술적인 한계로는 파라미터 선택(그래프 구축 시 k-최근접 이웃 수, 라플라시안 정규화 파라미터 등)이 결과에 민감하게 작용한다는 점이다. 저자들은 교차 검증과 그리드 서치를 통해 최적 파라미터를 찾았지만, 데이터셋마다 자동화된 파라미터 튜닝이 필요함을 인정한다. 또한, 매우 큰 샘플 수(수만 이상)에서는 라플라시안 행렬의 계산 비용이 급격히 증가하므로, 근사 방법이나 병렬 구현이 요구된다.

전반적으로 PDM은 비선형 구조를 보존하면서 다중 유전자 상호작용을 효과적으로 추출하는 강력한 무감독 학습 도구이며, 기존 방법이 놓치기 쉬운 미세한 페노타입 차이를 드러내는 데 유용함을 입증한다.