과거로 되돌아가는 마코프 과정의 영향 그래프 학습

초록

**
본 논문은 고차원 시계열이 일정 확률로 먼 과거 상태로 리셋되는 ‘과거 영향 모델(PIM)’을 제안하고, 메모리 없이 작동하는 탐욕적 알고리즘 PIMRecGreedy를 통해 제한된 차수의 영향 그래프를 샘플 수가 충분히 클 때 정확히 복원할 수 있음을 증명한다.

**

상세 분석

**
이 연구는 기존 마코프 과정이 갖는 마르코프성 가정을 완화하여, 매 시점마다 확률 p 로 과거 d 시점의 상태를 그대로 가져오는 ‘랜덤 리셋’ 현상을 모델링한다. 모델은 각 노드 v 의 내부 파라미터 X_v(t) 가 외부 이웃 N_v 의 관측 N_u(t) 과 M_u(t) 에 가중치 α_uv 로 선형 결합되는 형태이며, 리셋이 발생하면 최근 d 스텝을 무시하고 t‑d 시점의 관측을 사용한다. 이러한 비마르코프성은 관측 시퀀스에 혼합된 ‘잘못된’ 샘플을 만들지만, 저자들은 엔트로피 감소 기반의 조건부 엔트로피 추정 (\hat H(v^+|v,Q)) 을 이용해 이 잡음을 통계적으로 억제한다. 핵심 아이디어는 ‘마지막으로 추가된 노드가 반드시 진짜 이웃이다’라는 레마 2를 이용해, 엔트로피 감소가 임계값 κ/2 보다 클 때만 후보를 추가하고, 최종적으로 마지막 추가된 노드만을 최종 이웃 집합 (\hat T(v)) 에 포함시키는 것이다. 이 과정은 반복적으로 수행되어, 각 노드에 대해 정확한 인접 집합을 수렴한다.

이론적 기여는 두 가지이다. 첫째, 리셋 확률 p 가 전체 샘플 수 T 에 비해 충분히 작을 경우(즉 ( (1-p) = (T-1)\alpha\beta_1/(T-d-1)) 형태) 샘플 복잡도 (T = O(d^2 + d\log|V|)) 를 만족하면 고확률로 그래프 복구가 가능함을 보였다. 여기서 (d) 는 리셋 시점 간격, (|V|) 는 노드 수이며, 복구 성공 확률은 (1-\gamma) 이다. 둘째, 복구 성공에 필요한 조건을 행렬 (\tilde A) (각 노드의 외부 개방성 α_i 와 가중치 α_{ij} 의 곱) 의 스펙트럼 반경 (\rho(\tilde A)) 와 평균 활성화 함수 (\bar\mu) 에 대한 제약식으로 명시하였다. 즉 (2(\bar\mu+L)\rho(\tilde A) < 1) 을 만족해야 샘플 복잡도 상수 (\delta) 가 유한하게 정의된다.

실험에서는 링 구조와 라인 구조, 그리고 트리와 펜던트가 결합된 복합 그래프에 대해 (d=5,10) 및 (M=1,2) 조건에서 성공 확률을 측정하였다. 결과는 이론적 샘플 복잡도와 일치하게, (T) 가 (≈1500) 이상일 때 거의 완전 복구가 이루어짐을 보여준다. 또한 임계값 κ 를 교차 검증으로 선택하는 것이 성능에 큰 영향을 미치며, 이는 기존 ℓ₁‑정규화 로지스틱 회귀나 RW 와 같은 방법의 정규화 파라미터 선택과 유사한 역할을 한다.

전체적으로 이 논문은 ‘과거 리셋’이라는 비마르코프 현상을 정량적으로 모델링하고, 메모리‑프리 탐욕 알고리즘을 통해 고차원 네트워크의 인과 그래프를 효율적으로 학습할 수 있음을 증명한다. 특히 엔트로피 기반 선택 기준과 샘플 복잡도 분석을 결합함으로써, 기존 마코프 기반 그래프 학습 방법이 다루지 못했던 불규칙한 시간 의존성을 포괄한다는 점에서 학술적·실용적 의의가 크다.

**