생물학적 신경망에서 부트스트랩 퍼콜레이션

생물학적 신경망에서 부트스트랩 퍼콜레이션

초록

본 논문은 살아있는 신경망을 무작위 방향성 그래프 모델로 보고, 초기 활성화된 뉴런의 비율이 전체 네트워크의 최종 활성화 비율에 미치는 비선형 효과를 부트스트랩 퍼콜레이션 이론으로 정량화한다. 주어진 입출력 차수 분포를 갖는 랜덤 다이그래프에 대해, 초기 활성화 비율이 충분히 작아도 임계점을 넘어서는 경우 급격히 많은 뉴런이 발화하는 현상을 수학적으로 증명하고, 그 극한 비율을 명시적인 고정점 방정식으로 제시한다.

상세 분석

이 연구는 신경생물학 실험에서 관찰된 ‘전기 자극에 의한 전역 활성화’ 현상을 그래프 이론의 부트스트랩 퍼콜레이션 모델에 매핑함으로써, 물리학자들의 직관적 해석을 엄밀한 확률론적 틀 안에 끌어들인다. 논문은 먼저 살아있는 뉴런 네트워크를 정점 집합 V와 방향성 에지 집합 E로 구성된 무작위 다이그래프 G(V,E)로 모델링한다. 각 정점 i는 입력 차수 d_i^{in}와 출력 차수 d_i^{out}을 갖으며, 이 차수들은 사전에 지정된 확률분포 P_{in}, P_{out}에 따라 독립적으로 샘플링된다. 이러한 설정은 실제 신경망이 보여주는 비대칭적 시냅스 연결성을 반영한다.

부트스트랩 퍼콜레이션 과정은 다음과 같이 정의된다. 초기 단계에서 각 정점을 독립적으로 확률 p_0으로 활성화한다(외부 전기 자극). 이후 이산 시간 t에서 정점 i가 비활성 상태라면, 그가 받는 활성 입력 에지의 수가 미리 정해진 임계값 θ_i 이상일 경우 즉시 활성화된다. 여기서 θ_i는 보통 1 또는 고정된 정수값으로 설정되며, 논문은 θ_i=1인 경우를 중심으로 분석한다. 활성화된 정점은 영구적으로 활성 상태를 유지한다는 ‘once‑activated‑forever’ 가정이 적용된다.

핵심 정리는 대규모 n→∞ 한계에서 최종 활성화 비율 φ(p_0) 가 연속적인 함수가 아니라, 특정 임계값 p_c를 기준으로 급격히 변하는 ‘임계 현상’임을 보인다. 이를 위해 저자들은 ‘생성 함수’ G_{in}(x)=∑k P{in}(k)x^k 와 ‘생성 함수’ G_{out}(x)=∑k P{out}(k)x^k 를 도입하고, 무한 트리 근사(가장자리 효과 무시)를 이용해 전파 확률 q가 다음 고정점 방정식을 만족함을 증명한다:
q = p_0 + (1−p_0)·