딥러닝으로 해석하는 마우스 시각피질 신경반응

초록

본 연구는 Allen Brain Institute의 Neuropixel 데이터를 활용해, 마우스 시각피질에서 기록된 수백 개 뉴런의 스파이크 응답을 “신경 이미지”로 변환하고, 이를 GoogleNet 기반 딥 뉴럴 네트워크에 학습시켜 자연 이미지와 인공 그라팅을 구분한다. 단일 동물 내에서는 최대 100%의 정확도를, 여러 동물 간 전이 학습에서는 평균 91%의 정확도를 달성하였다.

상세 분석

이 논문은 최신 Neuropixel 프로브가 제공하는 대규모 전기생리학적 데이터를 딥러닝 프레임워크와 연결하는 방법론적 혁신을 제시한다. 먼저 저자들은 각 시각 자극을 뉴런별 반응 가중치와 곱해 “선호 자극(preferred stimulus)”을 생성한다. 이는 각 뉴런이 가장 강하게 반응하는 시각 특징을 평균화한 이미지로, 뉴런 간 기능적 차이를 하나의 공통된 시각 표현으로 통합한다는 점에서 의미가 크다. 이어서 각 시도(trial)마다 모든 뉴런의 선호 자극을 해당 시점의 스파이크 강도와 다시 가중합해 “신경 이미지(neural image)”를 만든다. 이 과정은 전통적인 스파이크 레이트 기반 분류보다 시공간적 정보를 압축하면서도 중요한 피처를 보존한다는 장점을 가진다.

신경 이미지를 입력으로 사용한 DNN은 사전 학습된 GoogleNet(Inception) 구조에 전이 학습을 적용했다. ImageNet으로 사전 학습된 가중치를 그대로 이용함으로써, 초기 단계의 저차원 시각 피처 추출 능력을 그대로 활용하고, 마지막 전층만 새로운 신경 이미지 데이터에 맞게 미세조정하였다. 이렇게 하면 데이터 양이 제한적인 신경과학 실험에서도 과적합을 방지하면서 높은 일반화 성능을 얻을 수 있다.

실험 결과는 두 가지 관점에서 주목할 만하다. 첫째, 동일 동물 내에서는 2/3의 데이터를 학습에 사용하고 1/3을 테스트했을 때 평균 96% 이상의 정확도를 보였으며, 최적 조건에서는 100%에 도달했다. 이는 마우스 V1이 자연 장면과 인공 그라팅을 명확히 구분하는 신경 코드를 가지고 있음을 시사한다. 둘째, 동물 간 전이 학습에서는 훈련에 사용된 동물들의 신경 이미지가 다른 동물의 신경 이미지와 높은 차원을 공유한다는 가정이 검증되었다. M0·M1을 학습에 사용하고 M3을 테스트했을 때 91.2%의 정확도를 기록했으며, 이는 개별 동물 간에도 시각 피처 코딩이 보존된다는 강력한 증거다.

또한 저자들은 PCA와 t‑SNE를 이용해 신경 이미지의 차원 축소 시각화를 수행했으며, 자연 vs. 인공 자극이 두 개의 뚜렷한 클러스터를 형성함을 확인했다. 이는 신경 이미지가 실제로 두 클래스 간의 통계적 차이를 충분히 포착하고 있음을 시각적으로 뒷받침한다.

한계점으로는 뉴런의 종류(단순세포 vs. 복합세포)나 층별 특성을 별도로 구분하지 않았으며, 시간적 동역학을 평균화함으로써 잠재적 정보 손실이 발생할 수 있다. 또한 “선호 자극”을 생성하는 가중합 방식이 선형 가정에 기반하므로, 비선형 상호작용을 충분히 반영하지 못한다는 점도 지적된다. 향후 연구에서는 층별, 세포형별 모델링과 시계열 기반 RNN/Transformer 구조를 결합해 보다 정교한 코딩 메커니즘을 탐구할 여지가 있다.

전반적으로 이 논문은 대규모 전기생리 데이터와 딥러닝을 연결하는 파이프라인을 제시함으로써, 신경코딩 연구에 새로운 계산적 도구를 제공한다는 점에서 학문적·기술적 의의가 크다.