신경망 기반 지역 탐색 가이드로 MPE 추론 효율 향상

초록

본 논문은 고정된 그래프 구조를 갖는 확률 그래프 모델에서 반복적인 가장 가능성 높은 설명(MPE) 질의를 수행할 때, 기존의 탐욕적 지역 탐색(SLS)과 가이드드 로컬 서치(GLS+)의 한계를 극복하기 위해 신경망 기반의 아모르티제이션 프레임워크를 제안한다. 주어진 상태와 이웃 후보를 입력으로 하여 Hamming 거리 감소 가능성을 예측하는 attention‑ 기반 모델을 학습하고, 이를 기존의 로그우도 증가 기준과 결합해 이웃 선택에 장기적 유망성을 반영한다. 이론적 수렴 분석과 고트리위드 베치마크 실험을 통해 제안 방법이 SLS와 GLS+ 대비 일관된 품질·속도 향상을 보임을 입증한다.

상세 분석

이 논문은 MPE 추론이라는 NP‑hard 문제를 해결하기 위해 “탐색‑가이드”와 “아모르티제이션”이라는 두 축을 동시에 추구한다. 기존 SLS는 현재 할당의 로그우도 증가량을 최우선으로 하는 best‑improvement 전략을 사용하지만, 이는 즉각적인 이득에만 집중해 고차원·고트리위드 그래프에서 쉽게 지역 최적에 빠진다. GLS+는 페널티를 부여해 재방문을 억제하지만, 페널티는 질의마다 새로 계산되므로 동일한 모델에 대한 반복 질의에서 지식이 축적되지 않는다.

저자들은 이 문제를 “거리‑기반” 시각으로 재구성한다. 최적 해 x*에 대한 Hamming 거리를 기준으로, 한 번의 1‑flip 이웃이 거리‑감소를 일으키면 최적에 도달하는 단계 수가 최소화된다는 직관을 제시한다. 최적 해는 실제로 알 수 없으므로, 근사 최적 해 ˆx를 anytime MPE 솔버(예: D‑A‑O‑OPT)로 얻고, 이를 기준으로 학습 데이터를 라벨링한다. 구체적으로, 각 상태 x와 그 1‑flip 이웃 x′에 대해 d_H(x′,ˆx) < d_H(x,ˆx)이면 양성 라벨(1), 아니면 음성(0)으로 표시한다.

학습 모델은 현재 할당과 후보 플립을 임베딩한 뒤, self‑attention을 통해 전역 구조 정보를 통합한다. 출력은 후보 이웃이 거리‑감소를 일으킬 확률 ˆp↓(x, x′)이며, 추론 시 이 값을 기존의 로그우도 증가량 S_LL와 가중합하거나 순위 기준으로 사용한다. 핵심은 α>0.5인 확률로 거리‑감소 이웃을 선택하면 기대 수렴 시간 E