경량 멀티스케일 CNN과 어텐션을 활용한 수면 단계 분류

초록

본 연구는 약 10 천 개 파라미터만을 갖는 경량 모델 MSA‑CNN을 제안한다. 멀티스케일 모듈에서 보완 풀링을 이용해 중복 필터를 제거하고, 시간‑공간 특징 추출을 분리·전역 공간 컨볼루션으로 단순화한다. 어텐션 기반 시간 컨텍스트 모듈을 추가해 장기 의존성을 학습한다. ISRUC‑S3, Sleep‑EDF‑20, Sleep‑EDF‑78 세 데이터셋에서 9개 SOTA 모델을 모두 능가하는 정확도와 Cohen’s κ를 달성했으며, 다양한 변형 실험을 통해 각 모듈의 기여도를 검증하였다.

상세 분석

MSA‑CNN은 수면 단계 분류라는 특수한 시계열‑다변량 문제에 맞춰 설계된 세 가지 복합적인 복잡도 감소 전략을 결합한다. 첫 번째는 ‘보완 풀링(complementary pooling)’을 도입한 멀티스케일 모듈(MSM)이다. 입력 신호를 서로 다른 시간 스케일로 풀링한 뒤, 각 스케일마다 작은 커널의 1‑D 컨볼루션을 적용하고, 다시 보완 풀링으로 출력 크기를 맞춘다. 이 과정은 동일한 필터를 여러 스케일에 재사용함으로써 파라미터 수를 크게 줄이면서도 다양한 주파수 대역의 스펙트로‑형태학적 특징(K‑complex, spindle 등)을 포착한다. 기존 연구가 필터 크기를 확대하거나 atrous convolution을 사용해 수용 영역을 늘리는 것과 달리, MSA‑CNN은 풀링 단계에서 수용 영역을 조절한다는 점이 핵심 차별점이다.

두 번째 전략은 시간‑공간 특징 추출을 분리하는 것이다. MSM이 각 채널별 시간적 패턴을 추출하면, 전역 공간 컨볼루션(global spatial convolution)이 모든 채널에 걸친 공동 활성화 패턴을 한 번에 학습한다. 이는 depthwise separable convolution과 유사하지만, 채널 수가 적은 수면 데이터(보통 4~8채널)에서는 전역 컨볼루션이 완전 연결층보다 연산 효율이 높으며, 그래프‑CNN이나 복잡한 풀링 구조에 비해 구현이 간단하고 메모리 사용량이 적다.

세 번째는 멀티‑헤드 자기‑어텐션을 기반으로 한 Temporal Context Module(TCM)이다. 시간 차원에서 추출된 토큰들을 저차원으로 임베딩한 뒤, 위치 인코딩을 더하고 N번 반복되는 self‑attention‑feed‑forward 블록을 통과시킨다. 어텐션은 각 시점의 특징이 주변 컨텍스트에 어떻게 영향을 받는지를 학습해, 장기적인 수면 단계 전이 규칙을 모델링한다. 또한, 저자는 어텐션 가중치를 시각화하는 도구를 제공해, 예를 들어 N2 단계에서 spindle과 K‑complex가 동시에 나타날 때 어느 부분이 주도적인지 직관적으로 확인할 수 있게 함으로써 모델의 해석 가능성을 높였다.

실험에서는 ‘small’(≈10 k 파라미터)와 ‘large’(≈40 k 파라미터) 두 버전을 각각 3개 공개 데이터셋에 적용했다. 9개의 최신 모델(그래프‑CNN, 트랜스포머, 3D‑CNN 등)과 동일한 교차 검증 파이프라인을 사용했으며, 모든 베이스라인을 재현·재평가했다. 결과는 large MSA‑CNN이 정확도와 Cohen’s κ 모두에서 모든 베이스라인을 앞섰으며, 특히 파라미터 대비 성능 효율이 가장 높았다. Ablation study에서는 MSM 없이 단일 스케일, 전역 공간 컨볼루션 제거, TCM 없이 단순 평균 풀링 등 각 요소를 차례로 제외했을 때 성능이 현저히 감소함을 보여, 제안된 세 모듈이 상호 보완적으로 작동함을 입증한다.

마지막으로 저자는 모델 경량화가 실제 임베디드 디바이스(예: 웨어러블 EEG) 적용에 유리함을 강조한다. 10 k 파라미터 수준이면 메모리와 전력 소모가 제한된 환경에서도 실시간 추론이 가능하므로, 임상 현장이나 가정용 수면 모니터링 시스템에 바로 적용할 수 있다.