EEG 기반 파운데이션 모델의 라벨 제한 적응을 위한 구조화 프로토타입 가이드 어댑터 SCOPE

초록

SCOPE는 제한된 피험자 라벨 환경에서 EEG 파운데이션 모델(EFM)을 안정적으로 미세조정하기 위해 두 단계 파이프라인을 제안한다. 첫 단계에서는 경량 태스크‑프라이어 네트워크와 Equiangular Tight Frame 정규화를 이용해 클래스 간 각도를 최대화하고, Sinkhorn‑클러스터링으로 균형 잡힌 클래스‑프로토타입을 만든 뒤, 두 예측의 일치를 기반으로 신뢰도‑가중 의사 라벨을 생성한다. 두 번째 단계에서는 고정된 EFM 백본에 프로토타입‑조건부 어댑터(ProAdapter)를 삽입해 외부 구조화된 신호에 맞춰 파라미터 업데이트를 제한한다. 세 가지 EEG 과제와 다섯 가지 백본에 대한 실험에서 라벨이 적은 교차‑피험자 설정에서도 높은 정확도와 효율성을 입증한다.

상세 분석

본 논문은 “라벨이 제한된 상황에서 EEG 파운데이션 모델이 전면 미세조정(full fine‑tuning) 시 나타내는 불안정성”을 근본 원인으로 규정한다. 첫째, 제한된 피험자 라벨은 고차원 파라미터 공간에 과도한 잡음 신호를 제공해 모델이 피험자‑특이 패턴을 과도 학습하게 만든다. 이는 초기 학습 단계에서 급격한 손실 변동, 시드 의존성, 과신(confidence over‑estimation) 등으로 나타난다. 둘째, 기존 셀프‑트레이닝 가정인 “높은 confidence ⇒ 높은 정확도”가 깨지면서 의사 라벨이 오히려 오류를 증폭한다. 셋째, EEG 데이터는 연속적인 뇌 상태와 클래스 불균형, 내부 변동성이 크기 때문에 단순 교차 엔트로피 기반 라벨링은 편향을 유발한다.

SCOPE는 이러한 문제를 해결하기 위해 외부 구조화된 감독을 만든다. 경량 태스크‑프라이어 네트워크(TPN)는 Equiangular Tight Frame(ETF) 정규화(L_E​TF)를 통해 클래스 간 각도를 동일하게 만들고, 임베딩을 클러스터 친화적으로 만든다. ETF는 w_k·w_{k’} = -1/(K-1) 조건을 만족하도록 가중치를 정규화함으로써, 클래스 중심이 구면 위에 균등하게 배치되도록 강제한다. 이렇게 얻은 임베딩은 Sinkhorn‑Knopp 알고리즘을 사용해 각 클래스당 M개의 프로토타입을 균형 있게 할당한다. 프로토타입은 cosine similarity 기반으로 샘플과 매칭되며, Q 행렬을 최적화해 각 프로토타입에 할당되는 샘플 수를 동일하게 만든다(균형 제약).

라벨 생성은 두 단계 예측(태스크‑프라이어와 프로토타입 기반)의 일치를 기반으로 한다. 일치하는 경우에만 의사 라벨을 부여하고, Dempster‑Shafer 이론을 차용한 신뢰도 스코어 γ_j = 1 - (−∑_k m({ω_k}) log m({ω_k}) / log K) 로 가중한다. 이는 두 증거원의 BBAs(softmax된 logits)를 곱해 결합함으로써, 불확실한 샘플을 자연스럽게 배제한다.

두 번째 단계인 ProAdapter는 고정된 EFM 백본에 경량 어댑터를 삽입한다. 어댑터는 프로토타입 벡터를 조건으로 받아, 해당 레이어의 출력에 프로토타입‑조건부 변조를 가한다. 이렇게 하면 파라미터 업데이트가 프로토타입이 정의한 클래스 구조에 맞춰 제한되며, 백본의 사전학습된 전이 가능성을 보존한다. 학습 손실은 pseudo‑label에 대한 cross‑entropy에 샘플별 γ_j 가중치를 곱한 형태이다.

실험에서는 세 가지 대표적인 EEG 과제(수면 단계 분류, 감정 인식, BCI 명령 인식)와 5가지 최신 백본(Transformer, S4, ConvNeXt 등)을 사용했다. 라벨 비율을 10%30% 수준으로 낮춘 교차‑피험자 설정에서, SCOPE는 기존 full‑fine‑tuning 대비 Kappa 점수와 정확도에서 평균 69%p 향상을 보였으며, 파라미터 수는 어댑터만 추가해 전체 파라미터 대비 0.5% 이하로 유지했다. 또한, 학습 안정성(손실 진동 감소)과 캘리브레이션(신뢰도 곡선)에서도 현저히 개선되었다.

핵심 기여는 (1) ETF 기반 인터‑클래스 기하학 정규화와 Sinkhorn‑클러스터링을 결합한 외부 구조화 감독, (2) Dempster‑Shafer 기반 신뢰도‑가중 의사 라벨링, (3) 프로토타입‑조건부 어댑터를 통한 파라미터 효율적 미세조정이다. 이 접근법은 EEG뿐 아니라 라벨이 희소한 다른 바이오시그널 분야에도 일반화 가능성을 시사한다.