흡수 마코프 연쇄와 판별 랜덤 워크의 정보 기하학

초록

본 논문은 판별 랜덤 워크(DRW)를 정보 기하학적 관점에서 재해석한다. 로그선형 엣지 가중 모델을 기반으로 흡수 마코프 연쇄의 클래스별 도달 시간 분포를 통계적 다양체로 정의하고, 도달 시간 확률 질량 함수, 모든 모멘트, 그리고 관측 피셔 정보를 닫힌 형태로 유도한다. 각 시드 노드에 대한 피셔 행렬이 계수 하나(rank‑one)임을 보이고, 그 영공간을 quotient 하면 전역적으로 평탄한 저차원 다양체가 얻어진다. 이 기하학을 이용해 무라벨 노드의 민감도 점수를 정의하고, 이는 피셔 공간에서 단위 교란에 대한 DRW betweenness 변화의 최댓값을 상한한다. 제안된 점수는 활성 라벨 획득, 엣지 재가중, 설명 가능성 등에 활용될 수 있다.

상세 분석

본 연구는 DRW가 기존의 무조건적인 라벨 전파와 달리 “클래스‑특정 흡수” 조건을 만족한다는 점에 주목한다. 이를 위해 그래프를 클래스 y의 라벨 집합 L_y를 흡수 상태, 나머지를 일시 상태(S_y)로 분할하고, 전이 행렬 P_θ를 블록 형태로 재구성한다. 핵심은 일시 상태 전이 행렬 M = P_{S_y S_y}(θ)의 스펙트럼 반경이 1보다 작다는 점이다. 이때 기본 행렬 Z_θ = (I−M)^{-1}는 Neumann 급수로 전개되며, 도달 시간 T_y의 pmf는 p_θ(t|q)=e_q^T M^{t−1} R 형태로 표현된다(여기서 R = P_{S_y A_y}1_{|A_y|}). 이 식을 이용해 pgf, 평균 μ_θ(q)=e_q^T Z_θ 1, 분산 σ_θ^2(q)=e_q^T(2Z_θ−I)Z_θ 1−μ_θ(q)^2 등을 닫힌 형태로 얻는다.

파라미터 θ에 대한 미분은 M과 Z_θ에 대한 Lyapunov 방정식 형태로 나타난다. 구체적으로 ∂_θ Z = Z (∂_θ M) Z이며, ∂θ M는 D_θ^{-1}·∂θ A_θ − D_θ^{-1}·∂θ D_θ·D_θ^{-1}·A_θ 형태이다. 로그선형 가중 모델 A{ij}(θ)=A{ij}^{(0)}exp(θ^T φ{ij})를 사용함으로써 ∂_θ A와 ∂_θ^2 A가 각각 1차·2차 텐서 형태로 명시된다. 이러한 미분 결과를 pmf의 로그에 적용하면 점수 함수 ∇_θ ℓ_θ(t,q)와 관측 피셔 정보 F_θ(q)=∑_t p_θ(t|q)∇_θ ℓ_θ(t,q)∇_θ ℓ_θ(t,q)^T를 얻는다.

놀라운 점은 모든 시드 노드 q에 대해 F_θ(q)의 랭크가 1이라는 사실이다. 이는 ∇_θ ℓ_θ(t,q) 벡터가 모두 동일한 방향(즉, M에 대한 1차 미분 방향)으로 정렬된다는 의미이며, 영공간을 quotient 하면 차원 p−1의 평탄한 다양체가 형성된다. 따라서 파라미터 공간에서 식별 가능한 자유도는 오직 하나뿐이며, 나머지는 통계적으로 무의미한 방향이다.

이 기하학적 구조를 활용해 저자들은 민감도 점수 s(q)=‖Π_{⊥}∇θ B_L(q,y)‖{F^{-1}}를 정의한다. 여기서 Π_{⊥}는 영공간에 대한 직교 투영, B_L는 DRW betweenness이며, F^{-1}는 피셔 행렬의 의사역이다. 이 점수는 피셔 거리 내에서 단위 교란이 betweenness에 미치는 최댓값을 상한한다(1차 근사). 1차원 경우(즉, 식별 가능한 방향이 하나뿐인 경우)에는 이 상한이 정확히 달성된다.

실용적인 응용으로는 (1) 피셔 정보가 큰 시드 노드 주변의 무라벨 노드를 우선 라벨링하는 활성 학습 전략, (2) 피셔 민감도가 높은 엣지를 재가중해 모델의 판별력을 강화하는 방법, (3) 민감도 점수를 시각화해 특정 노드가 예측에 미치는 영향력을 설명하는 기법 등이 제시된다.

전반적으로 논문은 DRW를 확률론적 흡수 과정으로 정형화하고, 정보 기하학을 통해 파라미터 식별성, 민감도, 그리고 최적화 구조를 명확히 밝혀냈다. 이는 기존의 라벨 전파 방법이 갖는 선형 대수적 해석을 넘어, 비선형 확률 모델의 미세 구조를 이해하고 설계하는 새로운 프레임워크를 제공한다.