조각선형 순환신경망을 이용한 비선형 뇌역학 복원

초록

본 논문은 조각선형 순환신경망(PLRNN)을 상태공간 모델에 통합하여, 잠재적 뇌역학을 최대우도 방식으로 추정하는 방법을 제시한다. EM 알고리즘과 전역 라플라스 근사를 결합해 잠재 상태와 모델 파라미터를 동시에 추정하고, 이를 토대로 쥐 전두피질의 작업 기억 과제 데이터를 분석한다. 5개의 은닉 상태만으로도 자극 선택적 지연 활동을 포함한 핵심 계산 역학을 포착했으며, 모델은 다중안정성보다 분기점 근처의 느린 동역학을 보였다.

상세 분석

이 연구는 비선형 신경 동역학을 정량적으로 복원하고자 하는 목표에 맞추어, 조각선형 활성화 함수를 갖는 순환신경망(PLRNN)을 상태공간 모델의 형태로 정의한다. PLRNN은 선형 부분과 비선형 절단점(리유니티)를 결합함으로써, 복잡한 비선형 흐름을 비교적 적은 파라미터로 근사할 수 있다. 저자는 잠재 상태의 확률분포를 추정하기 위해 Expectation‑Maximization(EM) 프레임워크를 채택했으며, E‑step에서는 전역 라플라스 근사를 이용해 비선형 전이 확률을 정규분포로 근사한다. 이는 기존의 샘플링 기반 방법에 비해 계산량을 크게 감소시키면서도, 높은 정확도를 유지한다는 장점이 있다. M‑step에서는 라플라스 근사에서 얻은 충분통계량을 이용해 선형 파라미터(가중치 행렬, 바이어스)와 비선형 절단점(임계값)을 최대우도 추정한다. 파라미터 업데이트는 닫힌 형태 해를 갖는 경우와 수치 최적화를 병행하는 경우로 나뉘며, 특히 가중치 행렬의 스펙트럼 반경을 제한함으로써 시스템이 발산하지 않도록 제어한다.

실험에서는 두 종류의 시뮬레이션을 통해 알고리즘의 복원 정확성을 검증한다. 첫 번째는 알려진 3차원 비선형 시스템을 PLRNN으로 근사하는 것이며, 두 번째는 잡음이 큰 관측 데이터를 이용해 잠재 차원을 과소/과대 지정했을 때의 견고성을 평가한다. 두 경우 모두 추정된 PLRNN이 원 시스템의 고유 궤적과 고정점 구조를 정확히 재현한다는 결과가 보고된다.

실제 데이터 적용에서는 쥐의 전방대상피질(ACC)에서 기록된 다중 단일 뉴런(MSU) 시계열을 사용한다. 작업은 지연 교대(Delayed Alternation)라는 전형적인 작업 기억 과제로, 자극 제시, 지연, 선택 단계로 구성된다. 저자는 5개의 은닉 상태를 갖는 PLRNN이 가장 적합한 모델임을 BIC 기준으로 판단하고, 추정된 동역학이 지연 기간 동안 특정 상태에 머무르며 자극 정보를 유지하는 패턴을 보인다. 흥미롭게도 모델은 다중안정성(multistability)보다는 분기점(bifurcation point) 근처에서 속도가 느려지는 슬로우다이내믹(slow dynamics)을 나타냈으며, 이는 작업 기억 유지와 연관된 신경 회로의 임계성(criticality) 가설을 뒷받침한다.

이 논문의 주요 기여는 (1) 비선형 활성화가 포함된 RNN을 상태공간 모델에 자연스럽게 통합한 점, (2) 전역 라플라스 근사를 이용해 EM 알고리즘을 반분석적으로 구현함으로써 계산 효율성을 크게 향상시킨 점, (3) 실제 신경 기록에 적용해 작업 기억과 관련된 핵심 동역학을 정량적으로 해석한 점이다. 또한, 파라미터 추정 과정에서 잡음 모델을 명시적으로 포함함으로써, 관측 잡음이 큰 신경 데이터에서도 안정적인 복원이 가능함을 보여준다. 향후 연구에서는 더 높은 차원의 은닉 공간, 비선형 절단점의 다중화, 그리고 비정상적인 관측 모델(예: 스파이크 트레인)과의 결합을 통해 모델의 일반성을 확대할 여지가 있다.