집합 그래프 모델의 가우시안 근사

본 논문은 개별 개체들의 i.i.d. 행동을 그래프 모델로 기술하고, 전체 인구에 대한 카운트 통계만을 관측할 수 있는 상황을 다루는 집합 그래프 모델(CGM)을 연구한다. CGM은 개별 모델의 클리크와 분리자 집합을 이용해 N개의 복제본을 만든 뒤, 각 클리크‑분리자 조합에 대한 카운트 변수 n_A(i_A)를 정의한다. 이러한 카운트들의 전체 벡터 n은 충분통계이며, 그 확률 질량 함수는 지수형식 f(n;θ)와 하드 제약을 포함한 기본 측도 h(n)으로 분해된다(정리 1, Proposition 1). CGM의 직접적인 추론은 n_i가 0~N 범위의 정수값을 갖는 거대한 상태공간 때문에 비현실적이다. 기존 연구는 Gibbs 샘플링(MCMC)과 MAP 기반 근사(비볼록 최적화)를 제시했지만, 규모가 커질수록 계산 비용이 급증한다. 이를 해결하고자 저자들은 대규모 인구(N→∞)에서 n의 정규화된 편차 √N⁻¹ (n‑Nμ)가 평균 0, 공분산 Σ를 갖는 다변량 정규분포로 수렴한다는 중앙극한정리를 적용한다. 여기서 μ는 개별 모델의 클리크 마진, Σ는 클리크‑클리크 공분산으로, 식 (5)-(7)에서 명시된다. 정리 1은 두 가지 중요한 결과를 제시한다. 첫째, GCGM(N,θ) = N(Nμ, NΣ)라는 가우시안 근사는 N이 충분히 클 때 정확히 CGM을 근사한다. 둘째, GCGM은 원래 CGM과 동일한 트리 구조(클리크‑분리자 트리) 위의 조건부 독립성을 유지한다. 즉, A와 B가 분리자 S에 의해 트리에서 분리되면 z_A ⟂⟂ z_B | z_S 가 성립한다. 하지만 Σ는 클리크 간 비인접 관계 때문에 직접 계산이 어려우며, 또한 affine 제약(각 클리크와 분리자의 합이 N)으로 인해 Σ는 완전 순위가 아니다. 이를 해결하기 위해 논문은 Loh & Wainwright(2013)의 최소 표현을 차용한다. 각 클리크 D에 대해 가장 큰 값 L을 제외한 구성공간 X_D^0를 정의하고, 지시 변수 I를 변환 행렬 T를 통해 ˜I = T I 로 매핑한다. ˜I는 각 클리크‑분리자에 대한 “제한된” 지시 변수들의 집합이며, 이들의 공분산은 완전 순위이다. 변환 T는 블록 행렬 T_{D,A} (식 10)로 구성되며, D⊆A인 경우에만 비제로 값을 가진다. Proposition 3은 변환 후 변수 ˜z = Tz 가 (i) 원래 트리 구조의 조건부 독립성을 보존하고, (ii) 공분산이 완전 순위임을 증명한다. 따라서 GCGM을 ˜z의 조건부 가우시안 분포들의 곱으로 분해할 수 있고, 이는 Gaussian Message Passing (GMP) 알고리즘을 통해 효율적으로 추론할 수 있다. 관측 모델 y_D는 클리크 D에 대한 카운트 관측을 의미한다. 관측이 (a) 정확한 마진, (b) 가우시안 잡음, (c) 포아송 등 비가우시안 잡음으로 구분된다. 경우 (a)와 (b)에서는 관측 팩터가 선형 또는 가우시안 형태이므로 사후는 닫힌 형태의 가우시안이 된다. 경우 (c)에서는 기대전파(EP)를 적용해 비가우시안 팩터를 가우시안 근사로 대체하고, 반복적인 메시지 전달을 통해 근사 사후를 얻는다. EP는 각 팩터에 대해 순간 1차와 2차 모멘트를 맞추는 방식으로 구현된다. 실험에서는 새 이동 시뮬레이션 데이터를 사용해 세 가지 방법을 비교하였다. (1) 기존 Gibbs 샘플링 기반 MCMC, (2) MAP 기반 비가우시안 최적화, (3) 제안된 GCGM‑EP. 평가 지표는 평균 절대 오차와 실행 시간이다. 결과는 GCGM‑EP가 MAP과 동등하거나 더 낮은 오차를 보이며, 실행 시간은 MCMC와 MAP에 비해 10배 이상 빠른 것으로 나타났다. 특히 인구 규모가 10,000 이상일 때 속도 차이가 크게 나타났다. 논문의 주요 기여는 다음과 같다. 첫째, CGM의 대수적 한계를 중앙극한정리와 가우시안 그래프 이론으로 극복하고, 정확한 비대칭 근사를 제시했다. 둘째, 변환 기반의 완전 순위 공분산 확보와 조건부 독립성 보존을 통해 Gaussian Message Passing을 적용할 수 있게 했다. 셋째, 비가우시안 관측에 대해 기대전파를 이용한 효율적인 근사 추론 방법을 제시했다. 마지막으로, 실험을 통해 실제 대규모 인구 모델링에서 실시간 추론이 가능함을 입증했다. 제한점으로는 트리 혹은 낮은 트리폭 그래프에만 직접 적용 가능하고, 고차원 클리크에 대한 공분산 계산이 여전히 비용이 클 수 있다는 점이다. 향후 연구는 트리폭이 큰 그래프에 대한 변형, 더 정교한 EP 스킴, 그리고 비정규화된 관측 모델(예: 이항, 베타-베르누이)으로의 확장을 제안한다.