삼중 스파이크 기반 온라인 감독 학습 알고리즘

초록

본 논문은 생물학적 시냅스의 온라인 조절 메커니즘을 모방하여, 출력 스파이크의 발생 시점을 즉시 이용해 가중치를 직접 조정하는 새로운 감독 학습 알고리즘을 제안한다. 삼중 스파이크(입력‑목표‑실제) 구조를 이용해 신경 유형에 구애받지 않으며, 실시간으로 공간‑시간 변환을 수행한다. 실험 결과, 기존 알고리즘 대비 학습 정확도와 효율성이 크게 향상되었다.

상세 분석

이 논문은 스파이킹 신경망(SNN)에서 시간 정밀도가 높은 스파이크 시퀀스를 목표 출력으로 학습시키는 문제에 초점을 맞춘다. 기존의 감독 학습 방법은 주로 평균 발화율(rate‑based)이나 복잡한 역전파‑유사 알고리즘에 의존했으며, 이는 신경 유형에 제한을 두거나 계산량이 급증하는 단점을 가지고 있었다. 저자는 생물학적 시냅스가 시냅스 전위와 포스트시냅스 전위의 시간 차이에 따라 가중치를 실시간으로 조절한다는 사실을 모델링하여, “쌍‑스파이크(pair‑spike)”와 “삼중‑스파이크(triple‑spike)” 개념을 도입한다.

먼저, 목표 출력 스파이크열 (S^{})와 실제 출력 스파이크열 (S) 사이의 시간 차 (\Delta t = t^{} - t) 를 정의하고, 입력 스파이크열 (X)와의 상관관계를 분석한다. 이때, 입력 스파이크와 목표 스파이크 사이의 시간 관계를 “전방‑조절(forward regulation)”이라 부르고, 입력 스파이크와 실제 스파이크 사이의 관계를 “후방‑조절(backward regulation)”이라 명명한다. 두 관계를 동시에 고려함으로써, 하나의 입력 스파이크에 대해 목표‑실제 스파이크 쌍을 선택하고, 해당 쌍을 중심으로 가중치 업데이트를 수행한다.

가중치 조절식은
\