플라스틱 네트워크의 평균장 이론: 적분‑발화 뉴런의 상전이와 시냅스 가중치 분포

초록

노이즈에 의해 구동되는 적분‑발화 뉴런 네트워크에 스파이크 타이밍 의존성 가소성(STDP) 규칙을 적용하였다. 평균장 이론을 이용해 평균 시냅스 가중치를 변수로 삼아 평균 발화율을 구하면, 노이즈‑지배 영역과 지속적 활동 영역 사이에 1차 상전이와 히스테리시스가 존재함을 예측한다. 포아송 발화 가정을 바탕으로 시냅스 가중치 변화를 비대칭 랜덤워크로 매핑하고, 작은 단계에 대한 마스터 방정식으로 해석하면, 정상 상태에서 시냅스 가중치 분포는 플라스틱성 비율의 제곱근에 비례하는 좁은 폭을 갖는다. 시냅스 전도도와 플라스틱 단계 크기의 변동은 상전이를 완화하고 분포를 넓힌다.

상세 분석

본 논문은 잡음 구동 적분‑발화(Integrate‑and‑Fire, IF) 뉴런 네트워크에 스파이크 타이밍 의존성 가소성(STDP) 규칙을 결합한 모델을 제시하고, 평균장(mean‑field) 접근법을 통해 시스템의 정량적 거동을 해석한다. 핵심 아이디어는 각 뉴런이 받는 총 시냅스 전도도를 평균값으로 치환함으로써, 네트워크 전체를 하나의 ‘효과적’ 뉴런으로 축소하는 것이다. 이때 평균 발화율 ν는 평균 시냅스 가중치 w̄에 대한 함수 ν(w̄)로 표현되며, 두 변수 사이의 자가일관성(self‑consistency) 조건 ν = F(w̄), w̄ = G(ν)를 동시에 만족해야 한다. 저자들은 이 연립 방정식의 해를 분석하여, w̄가 일정 임계값을 초과하면 ν가 급격히 상승하는 1차 상전이(first‑order transition)가 존재함을 보였다. 또한, 상전이 전후에 서로 다른 해가 공존하므로, 시스템은 입력 잡음 수준이나 초기 조건에 따라 두 상태 사이에서 히스테리시스 현상을 나타낸다.

시냅스 가중치의 미시적 변화를 다루기 위해, 각 시냅스가 포아송 발화 과정을 겪는다고 가정하고, STDP 규칙에 의해 가중치가 ‘증가 단계(Δw⁺)’와 ‘감소 단계(Δw⁻)’를 번갈아 가며 이동한다는 점을 비대칭 랜덤워크로 모델링한다. 이 랜덤워크는 전이 확률이 평균 발화율 ν에 의존하므로, 평균장 환경을 고정한 뒤 마스터 방정식 ∂P/∂t = -∂