딴드로센스 기반 저전력 이벤트 시계열 분류 신경망
초록
본 논문은 생물학적 수상돌기(덴드라이트)의 시퀀스 감지 메커니즘을 추상화한 DendroNN을 제안한다. 입력 스파이크의 순서와 간격을 엄격히 검증하는 이진 스파이크 유닛은 비선형 가중치 학습 없이 재배선(rewiring) 단계로 자주 등장하는 시퀀스를 기억하고 불필요한 연결을 제거한다. 동적·정적 희소성, 내재된 양자화, 비동기식 타임‑휠 하드웨어와 결합해 기존 지연·재귀 기반 SNN 대비 4배 이상의 에너지 효율을 달성하면서 음성 분류 등 여러 이벤트 기반 데이터셋에서 경쟁력 있는 정확도를 기록한다.
상세 분석
DendroNN은 수상돌기의 가지(branch)를 독립적인 시퀀스 디텍터로 모델링한다. 각 유닛은 Nₛ개의 스파이크, 그들의 공간적 기원 X, 순열 σₛ, 그리고 인터스파이크 간격 Δtᵢ 로 정의된 고유 시퀀스를 저장한다. 입력이 도착하면 유닛은 먼저 지정된 공간 채널을 확인하고, 이후 Δtᵢ에 맞춰 순서대로 스파이크가 들어오는지를 AND 연산으로 검증한다. 모든 조건이 만족되면 단일 바이너리 출력 스파이크를 발생시키며, 이는 이후 전결합 선형 레이어에 전달돼 클래스별 적분 유닛에서 교차 엔트로피 손실을 계산한다. 핵심은 가중치가 아닌 이진 연결과 시간 파라미터만을 최적화한다는 점이다. 전통적인 SNN은 스파이크를 순서에 무관하게 합산해 순서 민감도가 낮고, 이를 보완하기 위해 딜레이 라인이나 재귀 연결을 도입하지만 이는 전역 상태 업데이트와 메모리 이동을 초래해 에너지 비용이 급증한다. 반면 DendroNN은 전역 상태 없이 로컬 시퀀스 매칭만 수행하므로 메모리 접근이 스파이크 발생 빈도에 비례한다. 학습 단계는 두 단계로 나뉜다. ① 초기 랜덤 재배선: 입력 데이터 스트림을 스캔해 빈번히 나타나는 시퀀스를 탐색하고, 해당 시퀀스에 맞는 스파이크 경로를 활성화한다. ② 비그라디언트 재배선: 검증 정확도에 기여하지 않는 연결을 단계적으로 제거한다. 이 과정은 강화학습의 보상 신호와 유사하게 정확도 향상을 목표로 하며, 미분 불가능한 시퀀스 매칭을 효과적으로 최적화한다. 하드웨어 설계는 비동기식 디지털 타임‑휠을 활용한다. 타임‑휠은 전역 클럭 없이 현재 시점의 인터스파이크 타이머를 순환 버퍼에 저장하고, 해당 타이머가 만료될 때만 해당 스파이크를 확인한다. 따라서 메모리 읽기는 활성 스파이크 수에 비례하고, 시뮬레이션 윈도우 길이에 무관하게 일정한 대역폭을 유지한다. 실리콘 구현은 22FDX FDSOI 공정으로 수행됐으며, 포스트 레이아웃 시뮬레이션 결과는 동일한 음성 분류 작업에서 최신 Neuromorphic 가속기 대비 최대 4배 에너지 효율 향상을 보여준다. 이와 동시에 정확도는 96% 이상으로 기존 딜레이 기반 SNN과 동등하거나 약간 상회한다. 따라서 DendroNN은 고정밀 시퀀스 감지가 필요한 이벤트 기반 센서(예: DVS 카메라, 바이오센서)와 저전력 엣지 디바이스에 적합한 새로운 패러다임을 제시한다.
댓글 및 학술 토론
Loading comments...
의견 남기기