다층 비지도 스파이킹 인셉션 모듈

초록

본 논문은 스파이킹 신경망(SNN)에서 STDP 기반 경쟁 학습을 이용해 다층 구조를 구현하기 위해 인셉션 모듈을 변형한 ‘Spiking Inception(Sp‑Inception)’을 제안한다. PRA(Pooling‑Reshape‑Activate) 레이어를 도입해 모듈을 연속적으로 쌓을 수 있게 하였으며, MNIST 손글씨 분류에서 기존 비지도 SNN보다 우수한 정확도와 학습 효율, 견고성을 입증하였다.

상세 분석

Sp‑Inception 모듈은 전통적인 ANN의 인셉션 구조를 스파이킹 환경에 맞게 재구성한 것으로, 서로 다른 리셉티브 필드와 커널 크기를 가진 여러 병렬 컨볼루션 경로를 동시에 활성화한다. 각 경로는 LIF(Leaky Integrate‑and‑Fire) 뉴런 집합으로 구성되며, 스파이크 발생 시점에 따라 STDP 규칙이 적용돼 가중치가 업데이트된다. 핵심은 동일한 입력에 대해 다양한 시간‑공간 특징을 동시에 학습함으로써, 단일 레이어에서 얻을 수 있는 표현력의 한계를 극복한다는 점이다.

PRA 레이어는 세 단계로 이루어진다. 첫 번째 ‘Pooling’ 단계에서는 스파이크 집합을 평균 혹은 최대 풀링으로 압축해 연산량을 감소시키고, 시간적 정밀도를 유지한다. 두 번째 ‘Reshape’ 단계에서는 풀링된 텐서를 차원 재배열해 다음 인셉션 모듈에 입력될 수 있도록 형태를 맞춘다. 마지막 ‘Activate’ 단계에서는 재배열된 신호에 다시 LIF 뉴런을 적용해 스파이크를 재생성한다. 이 과정은 스파이킹 신호의 연속성을 보존하면서도 모듈 간 연결을 가능하게 하여, 깊은 네트워크 구성을 지원한다.

실험에서는 단일 Sp‑Inception 모듈이 기존 3×3, 5×5 커널만을 사용한 베이스라인보다 학습 속도가 1.8배 빨라졌으며, 노이즈가 섞인 입력에 대해서도 정확도가 4~5% 정도 향상되는 견고성을 보였다. 다층 구조에서는 3개의 Sp‑Inception 모듈을 순차적으로 쌓아 99.2%의 테스트 정확도를 달성했으며, 이는 현재 보고된 비지도 SNN 중 최고 수준이다. 또한, 파라미터 수는 기존 다층 SNN 대비 30% 감소했으며, 에너지 소비 역시 시뮬레이션 기반 측정에서 25% 절감되었다.

이 논문은 STDP 기반 비지도 학습이 깊은 스파이킹 네트워크에도 적용 가능함을 실증적으로 보여준다. 특히, 병렬 경로와 PRA 레이어의 조합은 스파이킹 신호의 시간적 특성을 유지하면서도 효율적인 특성 추출을 가능하게 하여, 향후 이벤트‑기반 센서 데이터 처리나 저전력 임베디드 AI 시스템에 직접적인 응용 가능성을 제시한다.