생물학적 실현성을 높인 STDP 기반 학습 프레임워크

초록

본 논문은 전통적인 인공신경망의 손실 기반 학습 대신, 순수하게 스파이크 타이밍 의존 가소성(STDP) 규칙만을 이용해 감독·비감독 학습을 수행하는 mSTDP 프레임워크를 제안한다. 입력 뉴런을 동시에 출력 뉴런으로 활용하는 자동인코더 구조와 모멘텀 기반 반복 추론 기법을 도입해 학습·추론 효율성을 높였으며, MNIST 분류·생성 실험을 통해 기존 방법과 경쟁 가능한 성능을 입증한다.

상세 분석

mSTDP는 기존 STDP 연구가 주로 비감독적 패턴 학습에 머물렀던 점을 넘어, 감독 학습까지 포괄할 수 있는 통합 프레임워크를 설계했다. 핵심 아이디어는 모든 입력 뉴런을 동시에 출력 뉴런으로 복제함으로써, 입력 자체가 목표 출력이 되는 자동인코더(오토인코더) 구조를 만든 것이다. 이때 각 뉴런은 스파이크 시퀀스를 통해 정보를 전달하고, 시냅스 가중치는 전통적인 STDP 규칙—프리-와 포스트-스파이크 간 시간 차에 비례해 강화·감쇠—에 따라 업데이트된다. 감독 신호는 별도의 손실 함수를 정의하지 않고, 목표 출력 스파이크 패턴을 직접 제공함으로써 구현된다. 즉, 목표 스파이크가 발생하면 해당 시냅스는 강화되고, 목표와 일치하지 않을 경우 감쇠한다는 점에서, 전통적인 역전파와는 전혀 다른 로컬 학습 메커니즘을 유지한다.

효율성을 위해 제안된 모멘텀 기반 반복 추론(inference) 방법은 현재 시냅스 상태에 관해 관성(모멘텀) 항을 추가한다. 구체적으로, 각 반복 단계에서 뉴런의 전위는 이전 단계 전위와 현재 입력의 가중합을 가중 평균하는 형태로 업데이트되며, 이는 수렴 속도를 크게 향상시킨다. 학습 단계와 테스트 단계 모두 동일한 추론 루프를 사용함으로써, 모델이 학습 중에 습득한 동적 특성을 테스트 시에도 그대로 활용할 수 있다.

실험에서는 MNIST 데이터셋을 사용해 두 가지 과업을 수행했다. 첫째, 각 이미지 픽셀을 스파이크 입력으로 변환하고, 목표 출력 스파이크를 라벨에 대응시켜 분류 성능을 평가했다. 둘째, 학습된 가중치를 이용해 새로운 스파이크 패턴을 생성함으로써 생성 모델로서의 가능성을 검증했다. 결과는 전통적인 백프로파게이션 기반 다층 퍼셉트론이나 컨트라스티브 헤비안 학습과 비교해 비슷한 정확도를 보였으며, 특히 생성 과업에서 잡음에 강한 패턴 재구성이 관찰되었다.

하지만 몇 가지 한계도 존재한다. 첫째, STDP 규칙 자체가 시간 차에 민감하기 때문에, 입력 스파이크의 타이밍을 정밀하게 조절해야 하는데, 이는 실제 센서 데이터에 적용할 때 어려움을 야기한다. 둘째, 현재 구현은 완전 연결(fully‑connected) 구조에 국한되어 있어, 대규모 이미지나 시계열 데이터에 대한 확장성이 검증되지 않았다. 셋째, 모멘텀 파라미터와 반복 횟수 등 하이퍼파라미터가 성능에 큰 영향을 미치지만, 자동 튜닝 방법이 제시되지 않아 실험자의 경험에 의존한다는 점이다.

이러한 점들을 고려하면, mSTDP는 생물학적 학습 메커니즘을 인공 신경망에 직접 도입하려는 연구 흐름에 중요한 발판을 제공한다. 특히 손실 함수 없이도 감독 정보를 활용할 수 있다는 점은 뇌의 신경 가소성 모델을 더 현실적으로 모사하는 데 기여한다. 향후 연구에서는 스파이크 타이밍을 보다 자연스럽게 생성하는 센서 인터페이스, 계층적 구조와 지역 연결을 통한 스케일업, 그리고 모멘텀 파라미터의 적응적 조절 메커니즘을 탐구함으로써 실용성을 높일 수 있을 것이다.