인공문법 학습에서 인간 행동을 가장 잘 모방하는 신경망 구조는?

초록

본 연구는 인간과 인공신경망이 인공문법(Artificial Grammar) 학습을 수행할 때, 피드포워드와 순환(Recurrent) 구조 중 어느 쪽이 인간의 암묵·명시 학습 양상을 더 잘 재현하는지를 비교한다. 네 가지 난이도(정규·문맥 자유·문맥 의존) 문법을 사용해 인간 피험자 56명을 대상으로 480번의 학습을 진행하고, 동일한 데이터 양을 갖는 피드포워드와 순환 네트워크를 훈련시켰다. 결과는 순환 네트워크가 전반적으로 인간의 정확도와 학습 곡선에 가장 근접했으며, 피드포워드 네트워크는 암묵적(implicit) 학습을, 순환 네트워크는 명시적(explicit) 학습을 모델링하는 데 각각 적합함을 시사한다.

상세 분석

이 논문은 인공문법 학습(AGL)을 인간 인지 메커니즘과 딥러닝 모델을 직접 비교할 수 있는 드문 사례로 제시한다. 먼저, Chomsky 계층에 기반한 네 가지 문법(정규 A, 정규 B, 문맥 자유(CF), 문맥 의존(CS))을 설계하고, 각 문법별로 412개의 문자 길이와 410개의 알파벳을 사용해 훈련·검증·테스트 데이터를 생성하였다. 인간 실험에서는 56명의 피험자를 8개의 ‘암묵’ 블록(각 60 trial)과 2개의 ‘명시·기억’ 블록으로 나누어 총 480개의 시퀀스를 제시하고, 정확도·반응시간·자신감 점수와 사후 설문을 통해 암묵·명시 지식 수준을 평가했다.

신경망 실험에서는 동일한 500개의 훈련 시퀀스와 100/200개의 검증·테스트 시퀀스를 사용해 피드포워드(FNN)와 순환(RNN) 두 아키텍처를 각각 6가지 레이어 수와 20가지 학습률 조합(총 120개 모델)으로 탐색하였다. 각 모델은 20번씩 무작위 초기화 후 평균 성능을 구했으며, 인간 평균 정확도와 가장 근접한 모델을 ‘인간 근접 모델’로 선정했다. 중요한 점은 최고 성능 모델이 아니라 인간과의 절대 오차가 최소인 모델을 선택했다는 것이다.

결과 분석에서 순환 네트워크는 모든 문법에서 인간의 최종 블록 정확도와 거의 일치했으며, 특히 복잡한 CF·CS 문법에서 인간보다 약간 높은 성능을 보였다. 반면 피드포워드 네트워크는 정규 문법에서는 인간에 근접했지만, 복잡도 상승에 따라 인간과의 격차가 커졌다. 학습 곡선을 보면, 순환 네트워크는 훈련 샘플 수가 증가함에 따라 급격히 정확도가 상승해 인간의 ‘암묵→명시’ 전이와 유사한 패턴을 보였고, 피드포워드 네트워크는 완만한 상승을 보여 암묵적 학습에 더 적합함을 시사한다.

또한, 저자들은 시각 처리 연구에서 피드포워드가 무의식적 처리, 순환이 의식적 처리와 연관된다는 기존 이론을 차용해, AGL에서도 동일한 구분이 가능하다고 주장한다. 이는 인간이 복잡한 규칙을 명시적으로 학습할 때 장기 의존성을 필요로 하는 순환 구조가, 짧은 패턴(빅그램·트리그램)만을 이용해 빠르게 판단하는 경우 피드포워드 구조가 더 적합하다는 인지적 해석과 일맥상통한다.

한계점으로는 인간과 인공신경망이 동일한 ‘학습 전략’을 공유한다는 가정이 과도하게 단순화되었으며, 인간 피험자들의 개별 차이(작업 기억 용량, 메타인지 능력 등)를 모델링하지 못했다는 점을 들 수 있다. 또한, 실험에 사용된 문법이 실제 자연어와는 거리가 멀어 일반화 가능성에 제약이 있다. 그럼에도 불구하고, 동일 데이터 양·훈련 단계·성능 지표를 맞춘 비교는 인지 과학과 인공지능 사이의 교량을 마련하는 중요한 시도이다.