주기 패턴 저장을 위한 의사역행 학습 규칙 기반 홉필드 네트워크 설계와 위상 분석

초록

본 논문은 이진 주기 패턴(사이클)을 신경망에 저장하기 위한 조건을 ‘허용 가능(admissible)’이라는 개념으로 정의하고, 의사역행(pseudoinverse) 학습 규칙을 이용해 해당 연결행렬을 구성한다. 사이클의 이산 푸리에 변환이 행렬의 랭크와 동일한 개수의 비영(非零) 열을 가질 때만 허용 가능함을 증명한다. 또한 사이클을 단순, 분리 복합, 비분리 복합 세 종류로 구분하고, 각 유형에 대응하는 네트워크 토폴로지를 피드포워드 체인, 독립 클러스터, 상호 연결된 클러스터 구조로 제시한다. 연속시간 홉필드 모델과 스파이킹 뉴런 모델을 통한 시뮬레이션으로 이론적 결과를 검증한다.

상세 분석

이 논문은 “사이클 Σ가 허용 가능(admissible)하다”는 정의를 통해, 주기적인 이진 패턴을 정확히 전이시키는 연결행렬 W가 존재하는지를 수학적으로 규정한다. 핵심 정리는 Σ의 이산 푸리에 변환(DFT) 행렬이 정확히 r=rank(Σ)개의 비영(非零) 열을 가져야 한다는 조건이다. 이는 Σ의 행공간이 복소수 고유벡터 공간과 일대일 대응함을 의미하며, 비영 열이 존재하지 않는 주파수 성분은 네트워크가 해당 패턴을 구분·전이할 수 없음을 나타낸다.

Σ의 행을 “루프(loop)”라 부르는 순환 순열 집합으로 분해함으로써 사이클을 세 가지 구조로 구분한다.

1. 단순 사이클(simple cycle): 모든 행이 동일한 루프에 속한다. 이 경우 Σ의 행벡터는 서로 순환 순열 관계에 있으므로, 의사역행 학습을 적용하면 W는 일종의 피드포워드 체인 형태가 되며, 마지막 뉴런이 첫 뉴런으로 되돌아가는 피드백 연결 하나만 추가된다. 이는 전형적인 순환 신경망(CNN) 구조와 유사하지만, 피드백이 단일 뉴런에 국한되어 있어 구현이 간단하다.

2. 분리 복합 사이클(separable composite cycle): 행이 두 개 이상의 서로 겹치지 않는 루프에 속한다. 각 루프는 독립적인 클러스터를 형성하고, 의사역행 학습 결과 W는 블록 대각 행렬 형태가 된다. 즉, 클러스터 간에 전혀 연결이 없으며, 각 클러스터 내부만이 자체적인 순환 전이를 담당한다. 이는 다중 리듬 생성 혹은 다중 행동 모드 전환을 모델링하는 데 유용하다.

3. 비분리 복합 사이클(inseparable composite cycle): 최소 두 개 이상의 루프가 행공간에서 교차(intersection)하여 서로 의존성을 가진다. 이 경우 클러스터 간 연결이 필연적으로 발생한다. 논문은 각 클러스터의 “루프 벡터 공간” Span(L_i)와 Span(L_j)의 교차 차원을 분석하여, 클러스터 연결 강도와 방향을 예측한다. 교차 차원이 클수록 더 많은 가중치가 클러스터 간에 할당되며, 이는 복합 리듬이 서로 얽혀 나타나는 현상을 설명한다.

의사역행 학습 규칙은 W = Σ · Σ⁺ (여기서 Σ⁺는 의사역행) 형태로 정의되며, 이는 최소 제곱 오차를 0으로 만드는 유일한 해를 제공한다. 따라서 허용 가능한 사이클에 대해 언제든지 정확히 전이를 보장한다. 또한, 연속시간 홉필드 모델 dx/dt = –x + W·sgn(x) + I와 같은 동역학에 적용했을 때, 고정점이 아닌 주기적 궤도(limit cycle)를 형성함을 수치 실험으로 확인한다. 스파이킹 뉴런 시뮬레이션에서는 시냅스 가중치를 동일하게 매핑하고, 적절한 외부 입력 I를 주어 동일한 순환 활성화 패턴을 재현한다.

이러한 결과는 기존의 Hopfield 네트워크가 주로 정적 기억(정점) 저장에 초점을 맞췄던 것과 대비된다. 여기서는 동적 기억, 즉 순환 패턴을 저장·재생산하는 메커니즘을 명시적으로 설계하고, 네트워크 위상이 패턴 구조와 직접 연결된다는 점을 강조한다. 특히, DFT 기반 허용성 조건은 주파수 해석을 통해 네트워크 설계의 사전 검증을 가능하게 하며, 복합 리듬을 구현하려는 생물학적 신경 회로 모델링이나 로봇 제어 시스템에 실용적인 설계 지침을 제공한다.