쌍대 상호작용으로 정보 최적화하는 네트워크 설계

초록

이 논문은 입력 신호 분포에 맞춰 네트워크 상태와 입력 사이의 정보를 최대화하는 최적 매핑을 제시한다. 최대 엔트로피(이징) 모델의 쌍대 상호작용 파라미터를 선형 방정식으로 구하고, 입력이 가우시안·균등일 때 평균 결합은 0이지만 자연 환경과 유사한 입력에서는 비제로 결합이 나타난다. 또한 노드 응답 잡음이 클수록 상호작용 강도가 증가한다는 예측을 제공한다.

상세 분석

본 연구는 생물학적 네트워크가 최대 엔트로피 원칙에 따라 쌍대 상호작용(이징) 모델로 잘 설명된다는 사실에 착안한다. 저자들은 입력 신호가 사전에 정의된 확률분포 p(𝑥) 를 가질 때, 네트워크 상태 σ (각 노드의 이진 활성화)와 입력 사이의 상호정보 I(σ; x) 를 최대화하는 매핑 f: x → σ 를 찾는 최적화 문제를 수식화한다. 이때, 각 노드 i의 응답 함수는 P(σ_i=1|x)=½