뇌 네트워크 표현을 위한 셀프‑슈퍼바이즈드 EEG 파운데이션 모델 종합 리뷰

초록

본 리뷰는 2025년 7월까지 발표된 19개의 논문을 대상으로, 다채널 EEG 데이터를 전체 뇌 네트워크 수준에서 학습한 셀프‑슈퍼바이즈드 파운데이션 모델들을 정리한다. 주로 Temple University EEG(TUEG) 코퍼스를 대규모 사전학습에 활용했으며, 트랜스포머가 주류를 이루고 MAMBA·S4와 같은 상태공간 모델이 신흥 대안으로 등장한다. 마스크 자동인코더가 가장 흔한 사전학습 목표이며, 대비학습을 병행하는 경우도 있다. 다운스트림 작업은 발작 탐지, 수면 단계 분류, 감정 인식, 운동 이미지 등 다양하지만, 대부분 단일 과제에 대해 파인튜닝을 수행해 일반화된 모델은 아직 부재하다. 데이터 다양성·벤치마크 표준화가 향후 발전의 핵심 과제로 지적된다.

상세 분석

본 논문은 EEG 분야에 파운데이션 모델 개념을 도입한 최신 흐름을 체계적으로 정리한다. 먼저, 사전학습 데이터의 편중을 지적한다. 12/19 연구가 TUEG 코퍼스에 의존하고, 전체 데이터 양은 평균 2,000시간에서 10,000시간 이상까지 다양하지만, 임상·다양한 인구집단을 포괄하는 데이터는 부족하다. 이는 모델이 특정 병원·장비 환경에 과적합될 위험을 내포한다.

모델 아키텍처 측면에서는 트랜스포머가 17개 중 14개를 차지한다. 세부적으로는 Vanilla Transformer, Vision Transformer, CNN‑Transformer 하이브리드, 그리고 토크나이저‑Transformer 조합으로 구분된다. 특히 시공간 어텐션 구현 방식이 다양해, 6개 모델은 시간축 어텐션만, 1개는 공간축만, 나머지는 시공간을 동시에 고려한다. 이는 EEG 신호가 시간적 연속성과 채널 간 공간적 상관성을 동시에 갖기 때문에 중요한 설계 선택이다.

공간 정보 인코딩도 주목할 만하다. 14개 모델 중 10개 이상이 채널 임베딩(고정 또는 학습 가능) 혹은 두뇌 해부학적 좌표를 활용한다. 이는 전극 배치가 모델 입력에 반영되어 전체 뇌 네트워크를 보다 정밀히 표현하도록 돕는다. 모델 파라미터 수는 3M~540M까지 폭넓게 분포하며, 대규모 파라미터가 반드시 성능 향상으로 이어지는지는 아직 명확히 규명되지 않았다.

SSL 목표는 크게 마스크 재구성(masked reconstruction)과 대비학습(contrastive learning)으로 나뉜다. 12개 모델이 연속 신호 혹은 토큰을 마스크하고 복원하는 방식을 채택했으며, 5개는 대비학습을 단독 혹은 혼합 형태로 사용한다. 특히 두 단계(pretraining‑stage) 접근법을 채택한 5개 연구는 첫 단계에서 신호를 코드북으로 양자화하고, 두 번째 단계에서 마스크된 토큰을 예측한다는 점에서 자연어 처리 분야의 BERT와 유사한 설계를 보여준다.

다운스트림 파인튜닝에서는 대부분 전체 파라미터를 업데이트하는 전면 파인튜닝이 가장 좋은 성능을 보였으며, 일부 연구는 헤드만 학습하거나 특정 레이어만 고정하는 전략을 시도했다. 그러나 19개 중 18개가 단일 과제에 대해 파인튜닝했기 때문에, 모델의 멀티태스크 일반화 능력은 아직 검증되지 않았다.

한계점으로는 (1) 데이터 다양성 부족 – 주로 미국·유럽 병원 데이터에 국한, (2) 평가 벤치마크 부재 – 동일 데이터·메트릭을 사용한 비교가 어려움, (3) 모델 규모와 효율성 간 트레이드오프 – SSM(MAMBA, S4)은 선형 복잡도로 긴 시퀀스 처리에 유리하지만, 아직 트랜스포머 대비 실제 EEG 작업에서의 우위가 확립되지 않음이 있다. 향후 연구는 다국적·다인구 데이터셋 구축, 표준화된 평가 프로토콜 제정, 그리고 멀티태스크 파인튜닝을 통한 진정한 파운데이션 모델 구현에 초점을 맞춰야 할 것이다.