에너지 기반 자동회귀 생성으로 신경 집단 역학 고효율 모델링

초록

본 논문은 에너지 기반 트랜스포머를 활용해 잠재 공간에서 시간적 동역학을 학습하고, 엄격한 스코어링 룰을 통해 효율적인 자동회귀 샘플링을 구현한다. 합성 로렌즈 데이터와 두 개의 Neural Latents Benchmark(​MC_Maze, Area2_bump​)에서 기존 확산 모델 대비 높은 생성 품질과 10배 이상 빠른 추론 속도를 달성했으며, 미지 행동 상황에 대한 일반화와 합성 신경 데이터 활용 BCI 디코딩 정확도 향상도 입증했다.

상세 요약

EAG 프레임워크는 먼저 다차원 신경 활동을 저차원 잠재 변수로 인코딩하고, 이 잠재 시퀀스를 에너지 기반 모델(Energy‑Based Model, EBM) 형태의 트랜스포머에 입력한다. 핵심은 ‘strictly proper scoring rule’를 이용해 에너지 함수를 직접 최적화함으로써, 확률밀도 추정 대신 점수 기반 손실을 최소화한다는 점이다. 이 접근은 전통적인 변분 오토인코더(VAE)나 확산 모델(Diffusion Model)에서 요구되는 복잡한 역전파 단계와 다중 샘플링 과정을 회피하고, 한 번의 전방 패스로 다음 시점의 잠재 변수를 샘플링할 수 있게 한다.

학습 단계에서는 실제 신경 시계열을 잠재 공간에 매핑한 뒤, 트랜스포머가 미래 잠재 상태를 예측하도록 지도한다. 여기서 에너지 함수는 예측된 잠재와 실제 잠재 사이의 거리뿐 아니라, 시간적 연속성 및 구조적 제약(예: 스파이크 통계)까지 포괄하도록 설계되었다. 스코어링 룰은 모델이 ‘에너지’를 최소화하도록 유도하면서도, 확률적 해석을 유지해 샘플링 시 온도 파라미터 조절로 다양성과 현실성을 조절한다.

추론 단계는 전통적인 오토리그레시브 방식과 동일하게 이전 시점의 샘플을 입력으로 받아 다음 시점을 생성한다. 그러나 EBM 특성상 샘플링이 ‘에너지 최소화’ 과정이므로, MCMC와 같은 반복적 절차 없이도 단일 전방 연산만으로 충분히 고품질 시퀀스를 얻을 수 있다. 이는 특히 대규모 신경 데이터(수천 개 뉴런, 수십 초)에서 메모리와 시간 복잡도를 크게 낮춘다.

실험에서는 합성 로렌즈 시스템을 통해 기본적인 비선형 동역학 재현 능력을 검증하고, MC_Maze와 Area2_bump 두 실제 데이터셋에서 기존 최첨단 모델(예: LFADS, Diffusion‑based Neural Dynamics) 대비 퍼플렉시티, 스파이크 타이밍 정밀도, 전력 스펙트럼 일치도 등 다중 지표에서 우수함을 보였다. 특히 추론 속도는 GPU 기준 0.8 ms/step 수준으로, 동일 하드웨어에서 Diffusion 모델이 8~12 ms/step을 요구하는 것에 비해 10배 이상 빠르다.

조건부 생성 실험에서는 행동 변수(예: 이동 경로, 목표 위치)를 추가 입력으로 제공했을 때, 훈련에 포함되지 않은 새로운 행동 패턴에 대해서도 합리적인 신경 활동을 생성했다. 또한, 생성된 합성 신경 데이터를 기존 BCI 디코더의 학습에 활용했을 때, 실제 데이터만 사용했을 때보다 평균 5 %~7 % 향상된 움직임 예측 정확도를 기록했다. 이는 EAG가 데이터 부족 상황에서 가상 실험을 통한 모델 보강에 유용함을 시사한다.

한계점으로는 잠재 공간 차원 선택이 성능에 민감하고, 매우 높은 차원의 스파이크 동시발생(동시 스파이크) 패턴을 완전히 포착하기 위해서는 추가적인 구조적 정규화가 필요할 수 있다. 또한, 현재 구현은 GPU 기반 전용이며, 실시간 임베디드 시스템으로 옮기기 위한 경량화 연구가 뒤따라야 한다.

전반적으로 EAG는 에너지 기반 학습과 트랜스포머의 강력한 시계열 모델링 능력을 결합해, 신경 집단 동역학의 고품질 생성과 실시간 응용을 동시에 만족시키는 새로운 패러다임을 제시한다.