하나의 스파이크만 허용하는 이미지 인식

본 논문은 인공신경망(ANN)의 높은 정확도를 저전력 스파이킹 신경망(SNN)으로 이전하기 위한 새로운 변환 기법을 제안한다. 기존의 변환 방식은 주로 ReLU 활성화 함수를 가진 ANN을 발화율(rate) 코딩을 통해 스파이크 빈도로 근사했으며, 이는 복잡한 비선형 함수(예: Swish, sigmoid, 곱셈)를 다루기 어렵고, 높은 시간 단계 수(수백~수천 단계) 때문에 지연과 처리량에 큰 제약을 초래한다. 새롭게 제안된 AMOS(At‑Most‑One‑Spike) 변환은 각 뉴런이 최대 하나의 스파이크만 발생하도록 설계된 작은 회로 집합으로, 임의의 활성화 함수를 정확히 에뮬레이션한다. AMOS 유닛은 K개의 스파이크 뉴런으로 구성되며, 각 뉴런 i는 가중치 c_i와 임계값 T_i, 억제 입력 H_i(이전 뉴런들의 출력에 대한 가중합)를 이용해 Heaviside 함수 Θ를 적용한다. 출력은 w·∑_{i=1}^{K} d_i·Θ(c_i·x−H_i−T_i) 형태의 가중합으로, 여기서 w는 원 ANN의 연결 가중치, d_i는 추가 학습 파라미터이다. ReLU의 경우, K=10, T_j=2K−j, c_j=1, d_j=2K−j, h_{ij}=2K−j 로 설정하면 이진 코딩을 통해 정확히 구현할 수 있다. Swish, sigmoid, 곱셈 등 복합 함수는 역전파와 삼각형 형태의 가짜 미분을 사용해 파라미터를 학습한다. 학습된 AMOS 유닛은 2~12개의 뉴런으로 구성된 경우에도 원 함수와 매우 근접한 근사곡선을 제공한다(그림 3~6 참조). 효율성을 검증하기 위해 ImageNet‑2012 데이터셋에 대해 EfficientNet‑B7(66 M 파라미터, Swish 활성화)을 변환하였다. 각 레이어별 함수 특성에 맞춰 K값을 조정했으며, 전체 SNN은 약 3.1 B 스파이크 뉴런을 사용한다. 변환 후 SNN은 Top‑1 정확도 80.97 %와 Top‑5 95.82 %를 달성했으며, 이는 기존 Rate‑based 변환(Top‑1 74.6 %)보다 6.4 %p 향상된 수치이다. 또한, 시간 단계는 K+1(10~40 단계) 수준에 머물러 레이턴시가 수백 배 감소하고, 매 시간 단계마다 새로운 이미지를 처리할 수 있어 이론적 최대 처리량을 구현한다. ResNet 계열 모델에 대해서도 동일한 변환을 적용하였다. ResNet50은 ANN에서 75.22 %의 Top‑1 정확도를 보였으며, AMOS 변환 후 SNN은 75.10 %를 기록했다. CIFAR‑10 실험에서는 ResNet50 기반 SNN이 92.99 %의 정확도를 달성했으며, 이는 기존 Rate‑based SNN(≈87 %)보다 크게 앞선 결과다. 트레이드오프 분석에서는 레이어 수(레턴시)와 뉴런 수(네트워크 크기) 사이에 다항식 관계가 존재함을 확인했다. 얕은 AMOS 유닛은 레이턴시를 최소화하지만 뉴런 수가 증가하고, 깊은 유닛은 뉴런 수를 절감하지만 레이턴시가 늘어난다. 이는 하드웨어 설계 시 메모리·전력 제약에 맞춰 최적화 가능한 설계 자유도를 제공한다. 결론적으로, AMOS 변환은 “시간을 공간으로, 공간을 시간으로” 교환하는 새로운 패러다임을 제시한다. 스파이크당 하나의 이벤트만 발생하도록 함으로써 에너지 효율을 극대화하고, 복잡한 비선형 함수를 정확히 구현함으로써 SNN이 ANN과 동등한 성능을 달성할 수 있음을 증명한다. 이는 neuromorphic 하드웨어의 실용화와 AI 응용 분야에서 저전력 고성능 시스템 구현에 중요한 전기를 마련한다.