다변량 부분 정보 분해의 한계와 새로운 측정법

초록

본 논문은 기존 부분 정보 분해(PID) 프레임워크의 이론적 모순을 밝히고, 두 변수 경우에 완전한 해를 제시한다. 세 변수 이상에서는 격자 기반 분해가 일관성을 유지할 수 없음을 증명하고, 격자에 의존하지 않는 새로운 다변량 고유·시너지 정보 측정법을 제안한다. 제안 방법은 연속성·가법성 등 핵심 공리를 만족하며, 이징 모델 실험을 통해 기존 방법보다 우수함을 입증한다.

상세 분석

이 논문은 부분 정보 분해(PID)의 근본적인 구조적 한계를 체계적으로 탐구한다. 먼저, Williams와 Beer가 제시한 3가지 기본 공리(비부정성, 자기‑중복성, 단조성)와 이후 연구에서 추가된 교환성, 서브시스템 일관성 등을 정리하고, 두 소스(S₁, S₂)와 목표 T에 대한 폐쇄형 해를 유도한다. 저자들은 기존에 제시된 여러 후보 함수가 공리를 모두 만족시키지 못함을 지적하고, 새로운 식을 통해 Redundancy, Unique₁, Unique₂, Synergy를 각각
Red = I_min(S₁;T, S₂;T),
Unique₁ = I(S₁;T) – Red,
Unique₂ = I(S₂;T) – Red,
Synergy = I(S₁,S₂;T) – Red – Unique₁ – Unique₂
와 같이 정의한다. 이 식은 최적화 없이 직접 계산 가능하며, 비부정성, 자기‑중복성, 단조성, 교환성, 서브시스템 일관성을 모두 만족한다는 점에서 두 변수 경우에 최초의 완전한 해로 평가된다.

그 다음 저자들은 세 변수 이상으로 확장할 때 발생하는 모순을 정량적으로 보여준다. 기존 문헌에 알려진 3변수 반례를 재구성하고, 이를 바탕으로 “전체는 부분의 합과 같다”(WESP) 원칙이 파괴되는 상황을 명시한다. 특히, 격자 기반의 PI‑atom 할당이 서로 다른 부분집합에 대해 동일한 정보량을 요구하지만, 실제 확률분포에서는 이러한 일관성을 유지할 수 없음을 증명한다. 이를 일반화한 불가능성 정리는 “소스 개수가 4 이상이면, 어떠한 격자 기반 분해도 모든 공리를 동시에 만족할 수 없다”는 강력한 결과를 제시한다.

이러한 이론적 한계를 극복하기 위해 저자들은 격자 구조를 포기하고, 고유 정보와 시너지 정보를 직접 정의하는 새로운 프레임워크를 제안한다. 핵심 아이디어는 “고차 의존성을 제거한 새로운 랜덤 변수 집합을 구성”하는 것이다. 구체적으로, 각 소스 집합 A에 대해 Â를 정의하고, Â와 목표 T 사이의 상호정보를 통해 고유 정보를 측정한다. 시너지 정보는 전체 정보에서 모든 고유·중복 정보를 차감한 잔여량으로 정의한다. 이 정의는 가법성(additivity)과 연속성(continuity)을 자연스럽게 만족하며, 기존 PID에서 발생하던 부정값이나 과잉합산 문제를 회피한다.

실험적으로는 2차원 및 3차원 이징 모델을 사용해 제안된 측정법을 검증한다. 임계점 근처에서 중복·고유 정보는 급격히 증가하고, 시너지 정보는 임계점 이후에 급증하는 패턴을 보인다. 이는 물리적 양인 자기 감수성 및 비열과 정량적으로 연관됨을 보여, 제안된 정보 측정이 실제 시스템의 구조적·동적 변화를 포착함을 입증한다. 또한, 기존의 I_min, I_ccs, I_broja 등 여러 PID 구현과 비교했을 때, 제안 방법은 모든 공리를 만족하면서도 수치적으로 더 안정적이고 해석적으로 직관적인 결과를 제공한다.

결론적으로, 이 논문은 (1) 두 변수 PID에 대한 완전한 해를 제공하고, (2) 세 변수 이상에서는 격자 기반 PID가 근본적으로 불가능함을 증명하며, (3) 격자에 얽매이지 않은 새로운 다변량 고유·시너지 정보 정의를 제시한다는 세 가지 주요 공헌을 한다. 이는 정보 이론, 신경과학, 복잡계 물리학 등 다양한 분야에서 다변량 상호작용을 정량화하려는 연구자들에게 중요한 이론적·실용적 지침을 제공한다.