홉필드 네트워크에서 논리 학습의 동등성 검증

초록

본 논문은 논리 프로그램을 구현하기 위한 두 가지 가중치 산출 방식, 즉 전통적인 Hebbian 학습과 Wan Abdullah 방법이 동일한 논리 규칙을 반영한다는 가설을 컴퓨터 시뮬레이션으로 검증한다. Hopfield 네트워크에 논리 절을 매핑하고, 각각의 방법으로 얻은 가중치를 이용해 네트워크를 수렴시킨 뒤 전역 최소 에너지 상태와 해밍 거리를 비교하였다. 실험 결과 두 방법이 모두 전역 해를 100 % 도출했으며, 안정 상태가 동일함을 확인하였다.

상세 분석

이 연구는 Hopfield 네트워크를 논리 프로그래밍의 물리적 구현 매체로 활용한다는 전제 하에 진행된다. Hopfield 모델은 대칭적 연결과 제로 대각선 조건을 만족할 때 에너지 함수를 정의할 수 있으며, 비동기적 이산 업데이트 규칙을 통해 시스템은 에너지 감소 방향으로 수렴한다. 논리 프로그램은 Horn 절 형태의 규칙 집합으로 표현되며, 각 원자(atom)를 하나의 뉴런에 대응시켜 진리값을 ±1로 매핑한다. Wan Abdullah 방법은 논리 절을 부정된 합성곱 형태의 비용 함수로 변환하고, 이를 Hopfield 에너지와 일치시키는 방식으로 가중치를 직접 계산한다. 예시로 제시된 세 절( C ← A∧B, D ← B, ← C )의 경우, 3차 및 2차 연결을 포함한 가중치 테이블이 도출된다.

반면 Hebbian 학습은 사건(event) 발생 빈도에 비례해 시냅스 가중치를 업데이트한다. 일반화된 Hebbian 규칙 ΔJ_{i…m}=λ S_i S_j … S_m은 n차 연결까지 확장 가능하며, 논리 규칙이 사건 발생을 지배한다면 학습 과정에서 해당 규칙에 대응하는 가중치가 강화된다. Wan Abdullah은 λ = 1/n이라는 조건 하에 Hebbian 학습이 직접 하드와이어링 방식과 동등함을 수학적으로 증명하였다.

논문은 두 방법의 가중치 자체를 직접 비교하기보다, 동일한 논리 프로그램을 각각의 방법으로 구현한 후 네트워크가 수렴하는 최종 상태를 비교한다. 실험 설계는 다음과 같다: (1) 무작위로 생성된 논리 프로그램을 Boolean 형태로 변환, (2) 각 원자에 뉴런 할당, (3) 초기 가중치를 0으로 설정, (4) 비용 함수를 에너지 형태와 매핑하여 가중치 도출, (5) Hebbian 학습을 동일한 사건 시퀀스로 수행, (6) 두 네트워크를 각각 1000번의 시뮬레이션(각 시도마다 100개의 무작위 초기 상태)으로 실행, (7) 전역 최소 에너지 비율과 해밍 거리를 측정.

결과는 네트워크 규모(NN=40)와 절당 리터럴 수(NC1~NC3)를 변동시켜도 전역 최소 비율이 1.0을 유지하고, 해밍 거리가 0으로 일관됨을 보여준다. 이는 두 방법이 동일한 전역 해를 찾아내며, 안정 상태가 완전히 일치한다는 강력한 증거이다. 또한, 네트워크가 부분 최적점에 머무르지 않고 선형 시간 내에 수렴한다는 점은 구현 효율성 측면에서도 의미가 크다.

하지만 논문은 몇 가지 제한점을 내포한다. 첫째, 실험에 사용된 논리 프로그램이 비교적 작은 규모이며, 절당 리터럴 수가 제한적이다. 둘째, Hebbian 학습의 학습률 λ와 사건 발생 모델이 실제 복잡한 논리 시스템을 충분히 대변하는지에 대한 검증이 부족하다. 셋째, 가중치의 정밀도(예: 1/16, 1/8 등)와 수치 오차가 실제 하드웨어 구현 시 어떻게 영향을 미칠지에 대한 논의가 없다. 그럼에도 불구하고, 본 연구는 이론적으로 제시된 동등성 가설을 실험적으로 뒷받침함으로써, Hebbian 학습이 논리 규칙을 자동으로 추출하고 Hopfield 네트워크에 적용할 수 있음을 입증한다.