신경망으로 구현한 유머 감각 모델

이 논문은 “유머 감각”이라는 인간 고유의 인지 기능을 컴퓨터 모델로 구현하기 위해, 연속적인 다의어 이미지 인식을 해결하는 알고리즘을 제시한다. 저자는 이 알고리즘을 Hopfield 모델에 기반한 신경망에 적절히 변형을 가함으로써 구현 가능하다고 주장한다. 먼저, 논문은 기본적인 Hopfield 네트워크를 소개한다. 각 뉴런 i는 이진 상태 V_i∈{0,1} 로 표현되고, 시냅스 가중치 T_ij는 대칭적이며, 뉴런의 업데이트 규칙은 V_i(t+Δt)=½+½ sign(∑_j T_ij V_j(t)−U_i) 로 정의된다. 이 동역학은 에너지 함수 E=−∑_ij T_ij V_i V_j 를 최소화하는 방향으로 진행된다. 그 위에 네 개의 기능적 층을 추가한다. 1) **연합 기억층(A‑layer)** 은 전통적인 Hopfield 네트워크와 동일하게 모든 뉴런이 상호 연결된다. 학습 규칙 δT_ij∼(2V_i−1)(2V_j−1)δt 로 p개의 이미지 패턴 {V^s_i} 를 저장한다. 여기서 각 이미지 s는 특정 영역 Ω_s 에 국한되어 존재하도록 가정한다. 이는 실제 뇌에서 시냅스가 제한된 반경 ξ 를 갖는 점을 반영한다. 2) **감각층(S‑layer)** 은 외부 자극을 받아 A‑layer 로 전달한다. S‑layer 뉴런은 서로 연결되지 않으며, 각각 하나의 A‑layer 뉴런에 양성(흥분) 연결을 가지고, 반대로 A‑layer 은 S‑layer 로 억제성 연결을 보낸다. 이 구조는 입력이 한 번만 전달된 뒤 자동으로 억제되는 메커니즘을 만든다. 3) **반응층(R‑layer)** 은 각 저장된 이미지에 대응하는 하나의 뉴런으로 구성된다. A‑layer 의 상태가 특정 이미지 패턴에 충분히 근접하면 해당 R‑뉴런이 활성화되어 의식적 인식을 나타낸다. R‑뉴런은 억제성 피드백을 통해 A‑layer 를 초기화함으로써 인식 후 기억을 “삭제”한다. 4) **중앙 제어부** 는 네트워크 전체를 조절한다. 제어부는 (가) 온도 조절(노이즈 레벨)과 (나) 자기장(에너지 바이어스) 제어, (다) 플라스틱 학습 트리거, (라) 연결 스위칭을 담당한다. 온도는 랜덤 힘 f_i(t) 로 모델링되며, 높은 온도에서는 에너지 장벽을 넘어 여러 잠재적 최소점 사이를 탐색하게 한다. 온도가 점차 감소하면 시스템은 가장 깊은 최소점으로 수렴한다. 이는 모호한 이미지가 여러 의미 중 하나로 선택되는 과정을 설명한다. **이미지 인식 과정** 은 다음과 같다. 초기에는 모든 뉴런이 비활성 상태(V_i=0)이며, 외부 자극 ˜B = B+δB 가 S‑layer 에 입력된다. S‑layer 의 흥분 신호가 A‑layer 로 전달되고, 중앙 제어부는 자기장을 끄면서 A‑layer 의 자유 진화를 허용한다. A‑layer 은 에너지 최소화 과정을 거쳐 저장된 이미지 B 로 수렴하고, 대응하는 R‑뉴런이 활성화된다. 이후 R‑뉴런의 억제 피드백이 A‑layer 를 초기화하고, 시스템은 다음 입력을 받을 준비가 된다. **학습** 은 플라스틱 연결 T_ij 가 δT_ij∼(2V_i−1)(2V_j−1)δt 로 변화하는 규칙에 따라 진행된다. 초기 T_ij=0 인 경우, p개의 패턴을 순차적으로 제시하면 (3)식에 의해 T_ij 가 형성된다. R‑layer 로의 연결은 단방향(흥분)으로만 학습되며, 이는 이미지와 대응되는 R‑뉴런을 연결한다. 학습은 이미지가 제시될 때만 활성화되며, 휴면 상태(V_i=0)에서는 일어나지 않는다. **지역화와 단거리 연결** 은 실제 뇌의 구조적 제약을 반영한다. 각 이미지 s는 작은 영역 Ω_s 에 국한되어 저장되며, 시냅스는 거리 r_ij < ξ 일 때만 존재한다. 따라서 T_ij 에는 D_ij 라는 거리 가중치가 곱해지고, 학습 규칙은 δ_ s_i δ_ s_j 로 해당 영역 내 뉴런에만 적용된다. 이렇게 하면 이미지 간의 상호작용은 주로 영역이 겹치는 경우에만 발생한다. **모호 이미지 처리** 는 온도 기반 메커니즘으로 설명된다. 예를 들어 단어 B 가 여러 의미 B+b₁, B+b₂,… 로 해석될 수 있을 때, 초기 온도 T₀ 가 의미 간의 에너지 장벽보다 높으면 시스템은 여러 최소점 사이를 자유롭게 이동한다. 온도가 서서히 감소하면 가장 깊은 최소점으로 고정되며, 이는 청자가 최종적으로 선택한 의미를 나타낸다. **동시 다중 이미지 인식** 은 두 이미지 A와 B 가 서로 겹치지 않는 영역 Ω_A, Ω_B 에 저장된 경우를 고려한다. 동시에 입력되면 에너지 식에 교차 항 −2∑_ij T_ij V_Ai V_Bj 가 추가되어 마치 외부 자기장이 작용한 것과 같은 효과를 만든다. 이 교차 항은 두 이미지가 서로 영향을 주어, 개별적으로는 비우호적인 조합이지만 동시에 제시될 경우 새로운 전역 최소점이 형성될 수 있음을 보여준다. 이는 문맥에 따라 의미가 변하는 현상을 모델링한다. **연속 이미지 흐름** 은 연속적인 자극 A₁, A₂,… 가 순차적으로 제시될 때, 연관된 이미지들의 영역 Ω₁, Ω₂,… 가 인접하거나 겹치면 A‑layer 에서 “확산” 형태로 연속적인 활성화가 일어난다. 가까운 이미지들은 클러스터를 형성하고, 먼 이미지들은 별개의 영역에 남는다. 중앙 제어부는 각 활성화된 영역에 온도 T₀ 를 부여하고, 일정 시간 τ₀ 후 온도를 감소시켜 해당 이미지가 R‑layer 로 전이되고, τ₁ 후 기억 영역을 초기화한다. **시간 지연과 유머 효과** 은 τ₀ (감각 → 의식 전이)와 τ₁ (기억 소거) 로 정의된다. τ₁ ≥ τ₀ 인데, 이는 이미지가 의식에 올라온 뒤에도 일정 시간 동안 재해석 가능성이 남아 있음을 의미한다. 이러한 지연 구조가 농담의 “예상과 반전”을 수학적으로 구현한다는 것이 논문의 핵심 주장이다. 결론적으로, 저자는 Hopfield 네트워크에 온도·자기장 제어, 지역화된 학습, 다층 구조, 그리고 중앙 제어부를 결합함으로써 다의어 이미지 인식, 모호성 해결, 연속적인 이미지 흐름, 그리고 유머와 같은 고차 인지 현상을 구현할 수 있음을 보인다. 비록 실험적 검증은 제한적이지만, 이론적 모델은 인공 신경망이 인간의 복합 언어·인지 기능을 모방하는 데 중요한 토대를 제공한다.