리듬성 스파이킹 네트워크의 온도 개념
본 논문은 포아송 분포를 따르는 흥분·억제 입력을 “온도”로 해석하고, 일정 시간 창에서 스파이킹 뉴런이 밴드갭을 가질 때 확률적 발화를 가능하게 하는 모델을 제시한다. 전역 억제 리듬을 도입해 동기화된 업데이트를 구현하고, 학습 없이 단일층 볼츠만 머신을 시뮬레이션함으로써 기존 이진 뉴런 기반 네트워크와의 유사성을 입증한다.
초록
본 논문은 포아송 분포를 따르는 흥분·억제 입력을 “온도”로 해석하고, 일정 시간 창에서 스파이킹 뉴런이 밴드갭을 가질 때 확률적 발화를 가능하게 하는 모델을 제시한다. 전역 억제 리듬을 도입해 동기화된 업데이트를 구현하고, 학습 없이 단일층 볼츠만 머신을 시뮬레이션함으로써 기존 이진 뉴런 기반 네트워크와의 유사성을 입증한다.
상세 요약
이 연구는 통계역학에서 온도가 미시 상태들의 확률 분포를 조절하듯, 스파이킹 뉴런에 도입되는 무작위 포아송 입력을 온도의 역할로 정의한다. 단일 뉴런 모델에서는 입력 전류와 발화 임계값 사이에 “밴드갭”을 설정하고, 포아송 입력의 평균률 λ와 윈도우 길이 Δt를 곱한 값이 온도 T = λΔt 로 표현된다. 온도가 높을수록 밴드갭을 넘어서는 확률이 증가해, 결정론적 발화 대신 확률적 스파이크가 발생한다. 이는 기존 이진 뉴런이 온도에 따라 확률적 활성화를 보이는 볼츠만 머신과 수학적으로 동등한 형태를 만든다.
네트워크 수준에서는 전역 억제 리듬을 주기적으로 적용해 각 뉴런이 동일한 시간 창에만 스파이크를 생성하도록 강제한다. 억제 파형은 짧은 ‘활성’ 구간과 긴 ‘억제’ 구간으로 구성되며, 활성 구간 동안만 포아송 입력이 전달된다. 이렇게 하면 모든 뉴런이 동기화된 “시계”에 맞춰 업데이트되므로, 전통적인 비동기 스파이킹 네트워크와 달리 순차적이면서도 병렬적인 연산이 가능해진다.
시뮬레이션에서는 학습 파라미터 없이 미리 정의된 가중치 행렬을 가진 단일층 볼츠만 머신을 구현한다. 각 뉴런은 자신의 입력 합계와 온도에 따라 스파이크 확률을 계산하고, 전역 억제 리듬에 의해 동기화된 시간 슬롯에서 발화한다. 결과는 이론적 볼츠만 분포와 일치함을 보이며, 온도 조절을 통해 시스템의 탐색·수렴 특성을 자유롭게 변형할 수 있음을 확인한다.
이 접근법은 스파이킹 뉴런을 통계역학적 프레임워크에 자연스럽게 매핑함으로써, 기존 이진 뉴런 기반 모델의 장점을 보존하면서도 생물학적 리듬과 시간 의존성을 도입한다는 점에서 의미가 크다. 다만, 현재는 고정된 포아송 입력과 단순 억제 파형에 의존하므로, 실제 뇌 회로의 복잡한 시냅스 가소성이나 비정상적 입력 통계와는 차이가 있다. 향후 학습 규칙을 통합하고, 다양한 리듬 패턴과 비정상 입력을 고려한다면, 보다 현실적인 신경계 모델링이 가능할 것으로 기대된다.
📜 논문 원문 (영문)
🚀 1TB 저장소에서 고화질 레이아웃을 불러오는 중입니다...