효율적인 MAP 기반 독립성 점수로 마코프 네트워크 구조를 견고하게 학습

본 논문은 마코프 네트워크(MN)의 구조 학습 문제에 대해 새로운 독립성 기반 점수 체계인 IB‑score와 이를 활용한 두 가지 MAP 탐색 알고리즘을 제안한다. 먼저, 마코프 네트워크는 무방향 그래프 G와 파라미터 집합 Θ로 정의되며, 그래프의 가장자리는 변수 간 조건부 독립 관계를 인코딩한다. 전통적인 구조 학습 방법은 크게 두 갈래로 나뉜다. 하나는 스코어 기반 방법으로, 모든 가능한 그래프에 대해 데이터 우도 혹은 MDL, pseudo‑likelihood 등을 계산하고, 파라미터 Θ를 추정한 뒤 최적 스코어를 찾는다. 이 접근은 이론적으로 강력하지만, 파라미터 추정이 NP‑hard이며, 특히 MN에서는 정규화 상수(분할 함수) 계산이 필요해 실용성이 떨어진다. 다른 하나는 독립성 기반 방법으로, 조건부 독립 검정(χ², 베이지안 테스트 등)을 통해 직접 구조를 축소한다. 이 방법은 O(n²) 수준의 검정 수와 O(N) 시간 복잡도로 효율적이며, 검정이 정확하다는 가정 하에 구조 복원에 대한 이론적 보장을 제공한다. 그러나 실제 데이터에서는 검정 오류가 빈번히 발생하고, 오류가 누적되면 최종 구조가 크게 왜곡된다. 이러한 한계를 극복하기 위해 저자들은 독립성 선언 자체를 확률 변수로 모델링하고, 베이지안 MAP 관점에서 전체 구조의 사후 확률을 계산하는 IB‑score를 도입한다. 구체적으로, 각 삼중항 (X, Y | Z)에 대해 독립성 여부 I(X,Y|Z) 를 베르누이 변수로 두고, 사전 확률 π를 설정한다. 데이터 D에 대한 검정 결과는 베이지안 업데이트를 통해 사후 확률 P(I=1|D) 혹은 P(I=0|D) 로 변환된다. 전체 그래프 G는 이러한 독립성 변수들의 집합으로 표현될 수 있으며, G가 만족해야 할 제약(예: 그래프 이론에 따른 삼각 불일치)도 확률적으로 포함된다. 최종 사후 확률은 독립성 변수들의 로그 사후 확률 합으로 나타나며, 이는 파라미터 Θ와는 전혀 무관하게 계산된다. 수식 (3)‑(5)에서 제시된 IB‑score는 “독립성 기반 스코어”라는 새로운 카테고리를 정의하고, 기존 독립성 기반 알고리즘이 단일 검정 결과에 의존하던 점을 보완한다. IB‑score를 활용한 두 알고리즘은 다음과 같다. 1. **IBMAP‑HC (Hill Climbing)**: 현재 그래프에서 가장 점수 향상이 큰 가장자리 추가·제거·반전 연산을 탐색한다. 각 연산 후 전체 IB‑score를 재계산하는 대신, 영향을 받는 독립성 변수만 업데이트해 O(1) 시간에 점수 변화를 평가한다. 탐색은 점수 향상이 없을 때 종료되며, 최악의 경우 O(n²) 번의 연산을 수행한다. 이는 기존 독립성 기반 알고리즘과 동일하거나 약간 높은 복잡도이지만, 검정 오류를 사후 확률로 가중해 안정성을 크게 높인다. 2. **IBMAP‑TS (Tree Search)**: 완전 탐색 트리를 구성하되, 각 노드의 상한 점수를 이용해 가지치기를 수행한다. 우선순위 큐에 점수가 높은 노드를 먼저 확장함으로써 실용적인 시간 안에 최적 혹은 근접 최적 해를 찾는다. 특히, 검정 결과가 불확실한 경우(예: p‑값이 경계에 가까운 경우) 해당 독립성 선언의 사후 확률이 낮게 평가되어 탐색 과정에서 자연스럽게 제외된다. 실험 설계는 두 부분으로 나뉜다. 첫 번째는 인공 네트워크(노드 수 10, 20, 30, 40, 50)에서 샘플 크기 N을 200, 500, 1000으로 변동시켜 독립성 검정 정확도와 구조 복원율을 측정했다. 두 번째는 실제 데이터셋(유전 질환 진단, 이미지 텍스처, 교통 흐름, 사회 네트워크, 환경 모니터링)에서 동일한 알고리즘을 적용하고, 기존 GSMN과 비교했다. 평가 지표는 (1) **구조 정확도** – 복원된 가장자리 수 / 실제 가장자리 수, (2) **독립성 복원율** – 조건부 독립 관계를 올바르게 인식한 비율, (3) **실행 시간** – CPU 시간. 결과는 다음과 같다. - 인공 데이터에서 IBMAP‑HC와 IBMAP‑TS는 평균 55 % 이상의 독립성 복원율 향상을 보였으며, 특히 N ≥ 500, n ≥ 30인 경우 90 % 이상의 구조 정확도를 달성했다. - 실제 데이터에서도 두 알고리즘은 GSMN 대비 평균 52 % 높은 독립성 복원율을 기록했으며, 일부 데이터셋(유전 질환)에서는 95 % 이상의 정확도를 보였다. - 실행 시간은 n=50, N=1000 기준으로 IBMAP‑HC가 1.2배, IBMAP‑TS가 1.5배 정도의 오버헤드만을 보였으며, 이는 다항 시간 복잡도 이론과 일치한다. 이러한 실험 결과는 IB‑score가 독립성 검정의 불확실성을 정량화하고, MAP 최적화에 직접 반영함으로써 기존 독립성 기반 학습기의 취약점을 효과적으로 보완한다는 것을 입증한다. 또한 파라미터 추정이 필요 없으므로 고차원·소규모 데이터 상황에서도 실용적이다. 논문은 향후 연구 방향으로 (1) 연속형 변수에 대한 베이지안 독립성 테스트 확장, (2) 비정규화 마코프 네트워크(예: 조건부 랜덤 필드) 적용, (3) 대규모 분산 구현을 제시한다.