비연속·프랙탈 활성함수로 확장된 에코 상태 네트워크의 새로운 가능성

초록

본 논문은 전통적인 Lipschitz 연속 활성함수 대신 혼돈·확률·프랙탈 형태의 비연속 함수를 에코 상태 네트워크(ESN)에 적용하여, Echo State Property(ESP)를 유지하면서도 수렴 속도와 스펙트럴 반경 허용 범위를 크게 확대할 수 있음을 실험과 이론으로 입증한다. 특히 Cantor 함수는 ρ≈10까지 안정성을 보이며, 기존 tanh·ReLU 대비 2.6배 빠른 수렴을 보인다. 양자화된 활성함수에 대해 Degenerate ESP(d‑ESP) 개념을 도입하고, 군집 비율 Q=N/k가 안정성 한계를 예측한다는 점이 주요 공헌이다.

상세 분석

본 연구는 크게 네 가지 기술적 기여를 제공한다. 첫째, 비연속·비정상 함수군을 체계적으로 정의하고, 실제 ESN에 적용 가능한 연속 혼돈 함수(예: 로지스틱 맵), 확률적 함수(브라운 운동 기반), 그리고 프랙탈 함수(Weierstrass, Cantor, Mandelbrot 변형)를 구현하였다. 이들 함수는 전통적인 Lipschitz 연속성 조건을 만족하지 않음에도 불구하고, boundedness와 특정 형태의 압축(pre‑processing) 특성을 통해 상태 공간을 제한한다는 점에서 공통된다.

둘째, ESP와 boundedness 사이의 미묘한 차이를 명확히 구분하였다. 제2.3절의 정리는 활성함수가