정서·주목이 결합된 신경망 모델

초록

본 논문은 전통적인 국소 연결 피드포워드 구조에 인간의 변연계에서 피질로 퍼지는 확산 투사를 모사한 비구분 연결층을 추가한 새로운 신경망, 즉 Salience‑Affected Neural Network(SANN)를 제안한다. 이 층을 통해 전역적인 주목(salience) 신호가 지역 처리와 상호작용함을 모델링함으로써, 기존 인공신경망이 제공하지 못하던 일회성 학습 및 감정‑주목에 의한 학습 강화 현상을 재현한다. 실험 결과는 유사 입력에 대해 유사한 역주목(reverse salience) 신호가 발생함을 보였으며, 단일 학습 반복만으로도 효과적인 학습이 가능함을 확인하였다.

상세 요약

본 연구는 두 가지 주요 구조적 혁신을 도입한다. 첫째, 전통적인 국소 연결(feed‑forward) 레이어를 유지하면서, 변연계‑피질 간의 확산 투사를 모사하는 ‘비구분 연결층(diffuse layer)’을 추가한다. 이 층은 모든 뉴런에 동일한 가중치를 부여하거나, 전역적인 스칼라 값인 ‘salience signal’만을 전달하도록 설계되어, 실제 뇌에서 아미그달라·시상하부 등에서 방출되는 신경전달물질이 피질 전역에 미치는 효과를 추상화한다. 둘째, 학습 단계에서 입력과 함께 salience 신호를 제공하고, 테스트 단계에서는 역방향 salience 신호(reverse salience)를 출력하도록 네트워크를 확장한다. 역방향 신호는 해당 입력이 학습 시점에 얼마나 ‘주목받았는가’를 정량화하는 메커니즘으로, 기존 ANN에서는 전혀 다루지 못했던 메타‑학습 정보를 제공한다.

기술적으로는, 기존의 가중치 업데이트 규칙에 salience‑dependent term을 추가함으로써, 높은 salience를 가진 패턴은 가중치 변화 폭이 확대되고, 낮은 salience를 가진 패턴은 억제된다. 이는 Hebbian 학습과 강화 학습의 혼합 형태로 해석될 수 있다. 또한, 역salience 출력은 학습 후 각 뉴런의 활성도와 salience 가중치의 내적을 통해 계산되며, 이는 입력 벡터와 학습 시점의 정서적·주의적 상태를 연결하는 일종의 ‘기억 흔적’으로 작동한다.

실험에서는 간단한 2‑layer MLP에 diffuse layer를 삽입하고, MNIST와 유사한 소규모 데이터셋을 사용해 단일 에폭 학습(single‑shot learning)을 수행했다. 결과는 동일하거나 유사한 입력이 테스트 시에 높은 역salience 값을 반환함을 보여, 네트워크가 입력‑salience 연관성을 성공적으로 내재화했음을 증명한다. 특히, 전통적인 다회 학습이 필요했던 경우에도, 높은 salience 신호를 부여함으로써 단일 학습으로도 충분한 분류 정확도를 달성했다. 이는 뇌의 ‘감정‑주목에 의한 학습 강화’ 현상을 인공 모델에 구현한 첫 사례라 할 수 있다.

이러한 접근은 몇 가지 한계도 내포한다. diffuse layer의 파라미터가 전역 스칼라에 지나치게 의존하면, 과도한 일반화와 특이성 손실이 발생할 위험이 있다. 또한, 현재 구현은 정적인 salience 값만을 사용하므로, 시간에 따라 변하는 감정 상태를 모델링하기엔 부족하다. 향후 연구에서는 동적 salience 흐름, 멀티‑모달 감정 입력, 그리고 실제 뇌 영상 데이터와의 정량적 비교를 통해 모델의 생물학적 타당성을 검증할 필요가 있다.

요약하면, 본 논문은 변연계‑피질 확산 투사를 추상화한 비구분 연결층을 통해 전역적인 주목 신호와 국소적인 피드포워드 처리를 동시에 모델링함으로써, 일회성 학습 및 감정‑주목에 의한 학습 강화라는 두 가지 중요한 신경생리학적 현상을 인공 신경망에 성공적으로 구현하였다.