동적 시스템의 예측과 모듈성

본 논문은 복잡계 연구에서 핵심적인 개념인 모듈성을 새로운 관점에서 재정의한다. 기존 연구들은 주로 정적 그래프의 커뮤니티 구조나 다변량 확률분포의 multi‑information을 최소화하는 방식으로 모듈성을 탐색했으며, 이러한 방법들은 동적 상호작용을 충분히 반영하지 못한다는 한계를 가지고 있다. 저자들은 동적 시스템을 ‘시작 상태 X와 다음 상태 X⁰ 사이의 전이 확률 P(X⁰|X)’ 로 모델링하고, 각 파티션 π에 대해 블록 별 독립성을 가정한 factorized 모델 Qπ(x⁰|x)=∏_{B∈π} Qπ(x⁰_B|x_B) 를 정의한다. 예측 정확도와 모델 복잡도 사이의 트레이드오프를 정량화하기 위해 위험 함수 r_{N,Qπ}=KL(P | Qπ) 를 도입한다. 이 위험은 두 부분으로 분해된다. 첫 번째는 stochastic interaction Iπ(X⁰|X)=∑_{B∈π}H(X⁰_B|X_B)−H(X⁰|X) 로, 파티션 내부의 동적 결합을 제외하고는 설명되지 않는 정보량을 나타낸다. 두 번째는 복잡도 항 dπ/(2N) 로, 파라미터 수 dπ와 학습 데이터 수 N에 비례한다. 여기서 dπ는 각 블록 B의 전이 확률을 완전히 기술하기 위해 필요한 자유도(예: Boolean 네트워크에서는 각 블록의 입력 조합 수와 출력 조합 수)이다. 위험을 최소화하는 파티션 Q*(N)=argmin_{π} r_{N,Qπ} 은 데이터 양 N에 따라 달라진다. N이 작을 때는 복잡도 항이 크게 작용해 작은 블록(즉, 단순한 모델)들이 선호된다. 이는 ‘데이터가 부족하면 복잡한 상호작용을 과도하게 추정하는 위험’에 대한 자연스러운 방어 메커니즘이다. N이 증가하면 복잡도 항의 영향이 감소하고, stochastic interaction 항이 지배적이 된다. 이때는 실제 동적 결합이 강한 변수들이 같은 블록에 모여, 최소 정보 손실을 보장하는 파티션이 선택된다. 따라서 학습 데이터가 충분히 많아질수록 최적 파티션은 전체 시스템의 stochastic interaction을 최소화하는 파티션, 즉 전통적인 multi‑information 최소화와 일치한다. 논문은 간단한 4노드 Boolean 네트워크를 사례로 들어, 각 파티션의 stochastic interaction 값을 계산하고, 위험 함수에 복잡도 항을 추가했을 때 어떤 파티션이 최적이 되는지를 시각적으로 보여준다. 전통적인 방법은 전체 파티션을 최소값으로 만들지만, 위험 기반 방법은 데이터 양에 따라 12/34와 같은 두 블록 파티션을 선호한다. 또한 저자들은 두 가지 확장 모델을 제안한다. 첫 번째는 상태‑의존적 모듈성으로, 특정 시작 상태 집합에 대해만 약하게 결합된 서브시스템을 탐색한다. 이는 실제 생물학적 네트워크에서 특정 환경이나 세포 상태에 따라 다른 모듈 구조가 나타나는 현상을 설명한다. 두 번째는 인과적 모듈성으로, 조건부 독립성을 이용해 인과 그래프의 구조를 추정한다. 여기서는 P(X⁰|X) 대신 P(X⁰|do(X))와 같은 개입 분포를 고려해, 인과적 결합을 무시한 모델의 위험을 평가한다. 마지막으로 논문은 파라미터화 선택, 모델 클래스(예: 베이즈 네트워크, 마코프 체인, 연속형 동역학) 등에 따라 dπ 계산이 달라질 수 있음을 언급하고, 실제 데이터에 적용하기 위한 실용적인 절차(데이터 수집, 파티션 후보 생성, 위험 계산, 최적 파티션 선택)를 제시한다. 이 접근법은 복잡계의 모듈성을 정량적으로 정의하고, 데이터 양에 따라 자연스럽게 다중 스케일 모듈 구조를 드러내는 강력한 도구가 될 것으로 기대된다.