구조 인식 코어셋 선택으로 기능 연결 모델링 벤치마킹 가속화
초록
본 논문은 대규모 fMRI 데이터에서 수백 개의 기능 연결(Functional Connectivity, FC) 모델을 평가하는 데 필요한 계산량을 크게 줄이기 위해, 모델 순위 보존을 목표로 하는 코어셋 선택 문제를 공식화한다. 제안된 SCLCS(Structure‑aware Contrastive Learning for Core‑set Selection) 프레임워크는 적응형 트랜스포머를 이용해 각 샘플의 FC 구조를 학습하고, 학습 과정에서 구조의 변동성을 측정하는 새로운 Structural Perturbation Score(SPS)를 도입한다. SPS가 낮은 샘플을 우선 선택하고, 밀도 기반 균형 샘플링으로 다양성을 보완함으로써 전체 데이터의 모델 순위를 10 % 샘플만으로도 높은 nDCG@k 일치도를 유지한다. REST‑meta‑MDD 데이터셋 실험에서 기존 코어셋 방법보다 최대 23.2 % 향상된 순위 일관성을 보였으며, 코드와 데이터는 공개되어 있다.
상세 분석
본 연구는 기능 연결 모델링(FSPI) 벤치마킹을 위한 코어셋 선택이라는 새로운 문제 정의에서 출발한다. 기존 코어셋 방법은 단일 예측 모델의 학습 효율성을 목표로 설계돼, 다수의 SPI에 대한 순위 보존이라는 목적에 부합하지 못한다. 이를 해결하기 위해 저자들은 (1) 샘플별 FC 구조를 정밀히 포착할 수 있는 적응형 트랜스포머 인코더, (2) 구조의 학습 안정성을 정량화하는 Structural Perturbation Score(SPS), (3) 순수한 구조 기반 선택의 취약성을 보완하는 밀도‑균형 샘플링, (4) 정체성 기반 대조 학습을 결합한 네 단계 파이프라인을 제안한다.
먼저, 트랜스포머의 다중 헤드 어텐션을 그대로 평균하는 것이 구조 정보를 희석한다는 정리(Theorem 1)를 제시하고, 헤드별 가중치를 학습하는 적응형 융합 메커니즘을 도입한다. 이 설계는 Theorem 2에 의해 연속적인 SPI 매핑을 임의의 정밀도로 근사할 수 있음을 보이며, fMRI의 시계열 토큰화와 헤드별 쿼리·키 변환을 통해 ROI 간 복잡한 동기화 패턴을 효과적으로 인코딩한다.
SPS는 각 에포크에서 얻은 어텐션 행렬 A(e)와 이전 에포크 A(e‑1) 사이의 Frobenius 거리의 평균으로 정의된다. Proposition 1에 따르면, 동일한 구조 원형(prototype) 내에 위치한 샘플은 변동이 작아 낮은 SPS를 갖고, 이질적인 샘플은 높은 SPS를 보인다. 따라서 저자들은 SPS가 낮은 상위 k개 샘플을 후보 코어셋으로 선정한다. 그러나 순위 기반 상위‑k 선택은 데이터 분포가 편중될 경우 다양성이 손실될 위험이 있다. 이를 보완하기 위해, 후보 샘플들의 밀도 추정값을 이용해 저밀도 영역에서 추가 샘플을 선택하는 density‑balanced sampling을 적용한다. 이 과정은 코어셋이 구조적 견고함과 분포적 대표성을 동시에 만족하도록 만든다.
대조 학습 단계에서는 피험자 정체성 라벨을 활용해 동일 피험자의 두 뇌 스캔이 높은 유사성을 갖도록, 서로 다른 피험자는 구별되도록 학습한다. 이는 FC 구조가 개인별 ‘뇌 지문’이라는 가정을 강화하고, SPI 평가 시 사용되는 Spearman 상관 기반 점수와의 정합성을 높인다.
실험에서는 대규모 다기관 REST‑meta‑MDD 데이터셋(수천 명, 수백 ROI)에서 두 가지 벤치마크 작업(뇌 지문 식별, MDD 진단)을 수행했다. 전체 데이터에 대해 130개의 SPI를 평가한 후, 코어셋 비율을 10 %까지 낮추어도 nDCG@k가 0.92 이상 유지되었으며, 기존 코어셋 방법(예: CRAIG, GLISTER) 대비 평균 23.2 % 높은 순위 일관성을 기록했다. 또한, ablation study를 통해 (i) 적응형 헤드 융합 없이 단순 평균을 사용할 경우 SPS 신뢰도가 급격히 감소하고, (ii) density‑balanced 샘플링을 제외하면 코어셋 다양성이 저하되어 특정 SPI 순위가 뒤틀리는 현상이 관찰되었다.
한계점으로는 (1) 트랜스포머 인코더가 메모리·연산 비용이 높아 매우 대규모 ROI(>500)에서는 추가 최적화가 필요하고, (2) SPS가 구조 변동성만을 반영하므로, 잡음이 많은 데이터(예: 낮은 SNR)에서는 과도한 샘플 제거 위험이 있다. 향후 연구에서는 경량화된 그래프 신경망 기반 인코더와, 잡음에 강인한 정규화 기법을 결합해 코어셋 선택의 일반성을 확대할 계획이다.
댓글 및 학술 토론
Loading comments...
의견 남기기