구조적 확률 모델링을 위한 케이스‑팩터 다이어그램

초록

본 논문은 제한된 트리 폭을 갖는 마코프 랜덤 필드와 확률적 문맥 자유 문법을 동시에 포괄하는 새로운 확률 형식인 케이스‑팩터 다이어그램(CFD)을 제안한다. CFD는 이진 결정 다이어그램(BDD)의 변형으로, 희소한 진리 할당과 독립 서브문제 분해를 효율적으로 표현한다. 논문은 CFD 기반의 내부‑외부 알고리즘과 Viterbi 알고리즘을 제시하며, 모든 연산이 CFD의 노드 수에 비례하는 시간 복잡도를 가진다.

상세 분석

논문은 구조적 확률 모델을 “선형 불리언 모델(LBM)”이라는 통일된 프레임워크로 재정의함으로써 시작한다. LBM은 불리언 변수 집합 V, 가능한 할당 집합 F(=feasible set), 그리고 각 변수에 부여된 가중치 Ψ로 구성된다. 확률은 로그선형 형태 P(ρ)∝e^{‑Ψ(ρ)} 로 정의되며, 여기서 Ψ(ρ)는 활성화된 변수들의 가중치 합이다. 핵심 문제는 F를 어떻게 압축적으로 기술하느냐인데, 이를 위해 저자들은 기존 BDD와 유사하지만 두 가지 중요한 확장을 도입한 CFD를 설계한다. 첫째, “zero‑suppressed” 특성을 가져 변수 대부분이 0인 희소 할당을 자연스럽게 표현한다. 이는 PCFG와 같이 파싱 트리의 존재 여부를 나타내는 변수들이 대부분 비활성화되는 상황에 최적이다. 둘째, “factor” 노드를 도입해 변수 집합이 겹치지 않는 두 서브다이어그램을 곱(∨) 연산으로 결합한다. 이 구조는 트리 폭이 제한된 MRF에서 독립적인 서브그래프들로 문제를 분할하는 “context‑sensitive independence”(CSI)를 그대로 그래프 형태로 드러낸다.

CFD의 형식적 정의는 재귀적인 문법 D ::= case(x, D1, D2) | factor(D1, D2) | unit | empty 으로 주어지며, case는 변수 x에 대한 분기, factor는 독립 서브문제의 곱을 의미한다. 의미론적으로 F(D) = F(D1)