스파이크 정규화 학습 알고리즘 SPIRAL

본 논문은 신경생리학적 현상인 ‘스파이크 레이트와 시간적 정밀도 사이의 역상관 관계’를 머신러닝 정규화 기법에 적용한 새로운 알고리즘 SPIRAL(Spike Regularized Adaptive Learning)을 제안한다. 기존 퍼셉트론은 단순하고 효율적이지만, 특징이 빈번히 등장하거나 드물게 나타나는 경우에 과적합이나 특징 압도 현상이 발생한다. 이러한 문제를 해결하기 위해 신뢰도 기반 학습 프레임워크가 도입되었으며, 대표적인 예가 CWL(Confidence‑Weighted Learning)과 AROW이다. AROW는 가중치 평균 μ와 공분산 Σ를 유지하면서 마진 기반 업데이트를 수행해, 데이터마다 적응적인 정규화를 제공한다. 그러나 AROW도 입력이 고정된 경우에는 여전히 과적합 위험이 존재한다. SPIRAL은 이러한 한계를 극복하고자, 입력 벡터에 가우시안 형태의 스파이크 샘플을 곱하는 방식으로 노이즈를 주입한다. 구체적인 절차는 다음과 같다. 1) 현재 공분산 Σ_{t‑1}을 이용해 입력 x_t에 대한 신뢰도 v_t = x_t^T Σ_{t‑1} x_t 를 계산한다. 2) v_t를