다변량 정보의 비음수 분해

** 다변량 정보를 일반화하려는 다양한 시도 중 가장 널리 활용되는 상호 정보는 때때로 음수 값을 나타내는 문제점을 가지고 있다. 본 연구에서는 먼저 변수에 대한 각 가능한 결과에 대해 어떤 소스가 제공하는 최소 정보를 모든 결과에 걸쳐 평균한 새로운 중복 정의를 제시한다. 이 중복 측정은 소스 집합 위에 격자를 형성하여 다변량 정보의 일반 구조를 명확히 한다. 이어서 이 중복 격자를 이용해 부분 정보 원자를 정의하고, 이를 통해 다변량 시스템의 샤논 정보를 소스 부분집합들의 시너지 간 중복으로 완전하게 분해한다. 제안된 부분 정보 분해의 원자는 절대로 음수가 아니며, 정보량으로서 명확한 해석을 제공한다. 또한, 상호 정보가 음수가 되는 현상이 중복과 시너지의 혼동에서 비롯됨을 설명한다. 이와 같은 비음수 부분 정보 분해는 복잡계, 신경과학, 기계학습 등 다양한 분야에서 변수 간 상호작용을 정량적으로 분석하고 해석하는 새로운 프레임워크를 제공한다.