정보 전달의 새로운 차원 상태 의존·독립 및 다원적 전이 분석
초록
본 논문은 전이 엔트로피(TE)를 확장하여, (1) 상태‑독립 전이와 상태‑의존 전이를 구분하고, (2) 다중 소스에 대해 고유, 중복, 시너지 전이를 정량화하는 새로운 측정법을 제시한다. 제안된 측정법은 제어 이론의 개방‑루프·폐쇄‑루프 개념과 연결되며, 인공·생리학적 예시를 통해 실용성을 입증한다.
상세 분석
전이 엔트로피는 두 확률 과정 X와 Y 사이의 방향성 정보를 정량화하는 도구로, “Y가 X의 다음 상태에 제공하는 정보량을 X의 과거에 조건화한 형태”로 정의된다. 그러나 조건화는 단순히 공유 정보를 제거하는 것이 아니라, 중복 정보와 시너지 정보를 동시에 재구성한다는 점이 기존 연구에서 간과되었다. 저자는 이를 부분 정보(Partial Information, PI) 분해 프레임워크에 매핑함으로써 TE를 두 개의 구성 요소, 즉 상태‑독립 전이(SITE)와 상태‑의존 전이(SDTE)로 분해한다.
SITE는 Y가 X의 다음 상태에 미치는 영향이 X의 현재 상태와 무관할 때 발생하며, 이는 제어 이론에서 개방‑루프(open‑loop) 제어와 동등하다. 반면 SDTE는 Y의 영향이 X의 현재 상태와 상호작용할 때 나타나며, 폐쇄‑루프(closed‑loop) 제어에 해당한다. 이 두 구성 요소는 수식적으로는 PI‑분해에서 각각 고유 정보와 X와 Y의 결합 시너지 정보에 해당한다.
다중 소스 상황에서는 전통적인 TE의 “조건부” 접근법이 중복 정보를 과소평가하고 시너지 효과를 누락한다는 한계가 있다. 이를 해결하기 위해 저자는 두 소스 Y와 Z에 대해 다음 네 가지 양을 정의한다: (1) 중복 전이 T{Y}{Z}→X = I_min(·) , (2) 고유 전이 T_Y→X\Z = T_Y→X – T{Y}{Z}→X , (3) 시너지 전이 T{Y,Z}→X = T_{Y,Z}→X – I_max(·) , (4) 전체 전이 T_{Y,Z}→X . 여기서 I_min과 I_max는 각각 최소·최대 특정 정보량을 평균한 것으로, 중복과 시너지의 정량적 경계를 제공한다.
이론적 결과는 두 가지 중요한 함의를 가진다. 첫째, TE와 시간 지연 상호 정보(TDMI) 사이의 차이를 명확히 설명한다. TDMI는 X와 Y 사이의 중복 정보를 제거하지 못하고, 또한 SDTE를 완전히 배제한다. 둘째, 제어 가능성(controllability)과의 연결 고리를 제공한다. 완전한 개방‑루프 제어가 가능하려면 SITE가 최대가 되어야 하며, 폐쇄‑루프 제어는 추가적인 SDTE를 필요로 한다.
실험적 검증으로는 (a) 이진 마코프 체인에서 파라미터 d를 변화시켜 순수 SITE에서 순수 SDTE로 전이하는 연속적인 곡선을 재현, (b) 세 개의 이진 프로세스 X, Y, Z를 이용해 c와 d 파라미터를 조절함으로써 고유, 중복, 시너지 전이가 각각 지배적인 상황을 시뮬레이션, (c) 수면 무호흡 환자의 호흡, 심박, 혈중 산소 농도 데이터를 분석하여 실제 생리학적 시스템에서 SITE는 거의 0이지만 SDTE와 시너지/중복 전이가 뚜렷이 나타남을 확인하였다. 특히, 심박이 호흡에 미치는 영향이 호흡 상태에 따라 크게 달라지는 bimodal 패턴은 SDTE의 존재를 직접적으로 보여준다.
이러한 결과는 정보 흐름을 단순히 양과 방향만으로 평가하던 기존 접근법을 넘어, 정보 전달의 “형태”(state‑dependence)와 “구성”(unique, redundant, synergistic)까지 포괄적으로 해석할 수 있는 새로운 분석 틀을 제공한다는 점에서 학문적·실용적 의의가 크다.
댓글 및 학술 토론
Loading comments...
의견 남기기