시간 방향성에 따른 선형성 붕괴와 엔트로피 생성

초록

비가우시안 시계열은 미래를 과거에 회귀할 때는 선형 ARMA 모델이 성립하지만, 과거를 미래에 회귀하면 잔차가 독립성을 잃는다. 이는 환경과의 일방향적 선형 상호작용이 앞쪽 조건부 확률은 선형을 유지하지만 뒤쪽 조건부는 비선형을 만든다는 물리적 메커니즘과 연결된다. 논문은 이러한 비대칭이 최소 엔트로피 생산량과 정량적으로 연관됨을 증명한다.

상세 분석

본 논문은 비가우시안 시계열이 “앞쪽(미래←과거)”에서는 선형 ARMA 모델에 정확히 맞지만, “뒤쪽(과거←미래)”에서는 잔차가 단순히 무상관일 뿐 통계적 독립성을 상실한다는 현상을 이론적으로 해석한다. 저자들은 먼저 이러한 현상이 실제 데이터에서도 흔히 관찰된다는 실험적 증거를 제시하고, 물리학적 직관을 통해 원인을 탐구한다. 핵심 가정은 시스템이 무한히 큰 열역학적 환경과 선형 결합을 갖는다는 점이다. 환경 입자들은 시스템과 상호작용하기 전에는 서로 독립된(product) 상태에 있다가, 상호작용 후에는 상관관계를 얻게 된다. 이 과정은 미시적으로는 선형 연산이지만, 조건부 확률 분포를 관찰자 입장에서 역으로 추정하면 비선형적인 형태가 나타난다. 즉, 앞쪽 조건부는 환경이 “새로운 독립 입자”를 지속적으로 공급함으로써 선형성을 유지하지만, 뒤쪽에서는 이미 상관이 형성된 입자들을 역추적해야 하므로 비선형성이 필연적으로 발생한다.

저자들은 이 비선형성의 정도를 정량화하기 위해 Kullback‑Leibler 발산과 같은 정보‑이론적 측도를 도입하고, 이를 최소 엔트로피 생산량과 연결한다. 구체적으로, 뒤쪽 회귀 모델의 잔차가 독립이 아닌 정도가 클수록 시스템-환경 상호작용이 더 많은 엔트로피를 생성한다는 식을 도출한다. 이는 비가우시안 시계열이 보여주는 시간역전 비대칭이 단순한 통계적 이상이 아니라, 비평형 열역학에서의 실제 에너지 흐름과 손실을 반영한다는 강력한 물리적 해석을 제공한다. 또한, 무한 환경을 가정함으로써 “코스팅(coarse‑graining)”된 관측 수준에서 엔트로피가 증가하는 메커니즘을 명확히 보여준다.

이러한 결과는 기존의 인과 추론 방법론에 새로운 제약을 부여한다. 특히, 데이터가 비가우시안이고 시간역전 비대칭을 보일 경우, 단순히 상관관계만을 이용한 인과 모델은 실제 물리적 인과관계를 오도할 위험이 있다. 따라서 연구자는 선형 ARMA 모델을 적용하기 전에 잔차의 독립성 검증을 반드시 수행하고, 비선형 잔차가 발견되면 시스템이 비평형 상태에 있음을 시사하는 엔트로피 생산 지표로 활용할 것을 제안한다.