소프트 제약 친화 전파를 이용한 군집화: 유전자 발현 데이터 적용

초록

유사도 기반 군집화는 과학 데이터 분석 전반에 걸쳐 핵심적인 문제이다. 최근 Frey와 Dueck이 제안한 친화 전파(Affinity Propagation, AP)는 메시지 전달 기법을 활용한 강력한 알고리즘으로, 각 군집을 대표하는 전시점(exemplar)과 그 전시점을 가리키는 데이터 포인트들로 구성된다. 그러나 기존 AP는 군집당 정확히 하나의 전시점만 허용하는 강제 제약으로 인해 비정형 형태의 군집, 특히 유전자 발현 데이터와 같은 복잡한 데이터에서 성능이 저하된다. 본 연구에서는 이러한 제약을 완화한 소프트 제약 친화 전파(SCAP)를 제안한다. 제약의 중요도를 전체 유사도 최적화와 비교하여 조절하는 새로운 파라미터를 도입함으로써, 각 데이터 포인트가 가장 가까운 이웃을 전시점으로 선택하는 단순 모델과 기존 AP 사이를 연속적으로 탐색할 수 있다. SCAP은 더 풍부하고 정확한 군집 결과를 제공하며, 파라미터 선택에 대한 외부 의존성을 감소시켜 알고리즘의 안정성을 크게 향상시킨다. 본 방법을 다양한 암 종류에 대한 마이크로어레이 데이터 등 생물학적 벤치마크에 적용한 결과, 데이터에 내재된 계층적 군집 구조를 효과적으로 밝혀냈으며, 각 군집에 대한 희소한 유전자 발현 서명을 추출할 수 있음을 확인하였다.

상세 요약

소프트 제약 친화 전파(SCAP)는 기존 Affinity Propagation(AP)의 핵심 아이디어를 유지하면서, “하나의 전시점만 허용한다”는 강경 제약을 완화한다는 점에서 의미가 크다. AP는 각 데이터 포인트가 자신을 전시점으로 선택하거나 다른 포인트를 전시점으로 지정하도록 하는 이진 변수와, 전시점이 자신을 가리키는 자기참조 제약을 동시에 만족시켜야 한다. 이러한 제약은 군집이 구형 혹은 구형에 가까운 형태일 때는 효과적이지만, 실제 생물학 데이터—특히 유전자 발현 프로파일—는 고차원 공간에서 복잡한 비선형 구조와 중첩된 서브클러스터를 보인다. 결과적으로 AP는 일부 중요한 패턴을 놓치거나, 과도하게 많은 전시점을 생성해 과적합을 일으킨다.

SCAP은 제약을 “소프트”하게 만든다. 구체적으로, 전시점 선택에 대한 비용 함수에 제약 위반에 대한 페널티를 추가하고, 이 페널티의 가중치를 조절하는 파라미터 λ(또는 유사한 스칼라)를 도입한다. λ가 0에 가까우면 제약이 거의 무시되어 각 포인트가 가장 가까운 이웃을 전시점으로 삼는 ‘가장 가까운 이웃’ 방식에 수렴하고, λ가 1에 가까우면 기존 AP와 동일한 강제 제약을 적용한다. 이 연속적인 스위칭 메커니즘은 데이터의 구조적 특성에 맞춰 최적의 제약 강도를 자동으로 탐색할 수 있게 해준다. 특히, 파라미터 선택 과정이 “전역 최적”을 향해 수렴하도록 설계된 점은 실용적인 장점이다. 사용자는 여러 λ 값을 그리드 탐색하거나, 교차 검증을 통해 안정적인 군집 품질을 보장하는 구간을 쉽게 찾을 수 있다.

알고리즘적 측면에서 SCAP은 메시지 전달 방정식에 작은 수정만을 가함으로써 기존 AP와 동일한 O(N²) 복잡도를 유지한다. 이는 대규모 마이크로어레이 데이터셋에서도 실시간에 가까운 실행이 가능함을 의미한다. 또한, 소프트 제약은 군집 경계가 모호한 영역에서 전시점이 여러 후보에 걸쳐 공유될 수 있게 함으로써, 군집 간의 연속성을 자연스럽게 표현한다. 결과적으로 군집 트리 구조—즉, 계층적 클러스터링—가 자동으로 드러나며, 이는 전통적인 하드 클러스터링이 제공하지 못하는 중요한 생물학적 인사이트를 제공한다.

생물학적 적용 사례를 살펴보면, 여러 암 유형에 대한 마이크로어레이 데이터에 SCAP을 적용했을 때, 기존 AP가 놓쳤던 미세한 서브타입을 성공적으로 구분하였다. 또한, 각 군집에 대해 “희소 유전자 서명”을 추출하는 과정이 자연스럽게 포함된다. 전시점으로 선택된 데이터 포인트는 해당 군집을 대표하는 특성 유전자를 다수 포함하고 있기 때문에, 전시점의 유전자 발현 프로파일을 분석하면 군집 특이적인 바이오마커를 손쉽게 도출할 수 있다. 이는 임상 진단이나 치료 표적 발굴에 직접적인 활용 가능성을 시사한다.

전반적으로 SCAP은 제약 강도를 조절함으로써 AP의 장점을 보존하면서도, 비정형 데이터에 대한 적응성을 크게 향상시킨다. 파라미터 의존성을 감소시키고, 계층적 구조와 희소 서명을 동시에 제공한다는 점에서, 고차원 생물학 데이터 분석에 매우 유용한 도구로 평가할 수 있다.