아날로그 뉴로모픽 하드웨어에서 뉴런 파라미터 추정을 위한 가중치 기반 시뮬레이션 인퍼런스

초록

본 연구는 BrainScaleS‑2 아날로그 뉴로모픽 플랫폼의 적응형 지수 적분‑발화(AdEx) 뉴런 모델에 대해, 비순차적 시뮬레이션 기반 인퍼런스(SBI)와 베이즈플로우(BayesFlow)를 이용해 7개의 주요 파라미터 사후분포를 가속화된 방식으로 추정한다. 손수 만든 요약 통계와 자동 요약 네트워크 두 가지 접근을 비교했으며, 자동 요약 네트워크가 더 집중된 사후와 실제 전압 동역학을 잘 재현함을 확인했다.

상세 분석

이 논문은 아날로그 뉴로모픽 시스템인 BrainScaleS‑2(BSS‑2)에서 구현된 적응형 지수 적분‑발화(AdEx) 뉴런의 파라미터를 추정하기 위해 비순차적 시뮬레이션 기반 인퍼런스(SBI) 알고리즘을 적용한 점이 핵심이다. 기존 연구에서 사용된 순차적 SNPE와 달리, 비순차적 접근은 하나의 신경밀도 추정기(NDE)를 사전 학습시켜 다양한 관측값에 대해 즉시 사후분포를 제공한다는 ‘가중치(amortized)’ 특성을 갖는다. 이를 위해 저자들은 BayesFlow 프레임워크를 채택했으며, BayesFlow는 요약 네트워크(S)와 NDE를 공동 학습함으로써 고차원 시뮬레이션 데이터에서 자동으로 유의미한 특징을 추출한다.

파라미터 공간은 7개의 가변 파라미터(g_l, V_r, ΔT, V_T, a, b, g_τw)와 고정 파라미터들로 구성된다. 하드웨어 제약으로 각 파라미터는 01022의 디지털 값으로 표현되며, 초기에는 5만 개의 무작위 파라미터 조합을 시뮬레이션해 데이터셋을 구축했다. 그러나 대부분의 조합이 스파이크가 없거나 과도하게 많이 발생해 관심 영역(170 스파이크)과는 거리가 멀었다. 이를 해결하기 위해 저자들은 Residual Network 기반 이진 분류기를 학습시켜 ‘중간 스파이크 수’를 보이는 파라미터만을 선택하도록 필터링하였다. 이 과정을 거친 후 60만 개의 샘플을 확보했으며, 이 중 600개는 검증용으로 별도 보관하였다.

두 가지 요약 방법을 비교하였다. 첫 번째는 기존 연구에서 사용된 12개의 손수 만든 요약 통계(발화율, 첫 스파이크 지연, ISI, CV 등)이며, 두 번째는 1차 및 2차 컨볼루션 레이어와 128 유닛의 순환 신경망(RNN)으로 구성된 자동 요약 네트워크이다. 손수 만든 요약 통계는 저차원이며 해석이 용이하지만, 전압 파형의 미세한 동역학을 충분히 포착하지 못한다. 반면 자동 요약 네트워크는 원시 전압 시계열을 직접 입력받아 중요한 특징을 학습하고, NDE와 공동 최적화됨으로써 파라미터 사후분포를 더 좁고 정확하게 만든다.

실험 결과, 자동 요약 네트워크를 사용한 사후는 목표 파라미터(θ_T) 주변에 높은 밀도를 보였으며, 특히 V_r과 ΔT‑V_T 상관관계가 명확히 드러났다. 반면 손수 만든 요약 통계 기반 사후는 파라미터 범위가 넓게 퍼져 있었고, 특히 b(스파이크 트리거 적응) 파라미터가 크게 분산되었다. 사후 예측 검증(posterior predictive check)에서는 두 방법 모두 스파이크 수와 적응 현상을 재현했지만, 전압 상승 구간에서 손수 만든 요약 통계 기반 샘플은 목표 파형보다 평탄하고 급격히 상승하는 경향을 보여 차이를 보였다. 자동 요약 네트워크는 전압 궤적을 목표와 거의 일치시켰다.

또한 사후분포는 약간의 편향(bias)과 보정(miscalibration) 문제를 보였음에도, 목표 관측값에 대한 예측 정확도는 충분히 높았다. 이는 비순차적 SBI가 하드웨어 노이즈와 변동성을 포함한 실제 아날로그 뉴로모픽 시스템에서도 실용적인 파라미터 추정 도구가 될 수 있음을 시사한다.