대규모 MRF MAP 추정을 위한 스케일러블 SDP 이완

본 논문은 이산 마코프 랜덤 필드(MRF)의 최대 사후 확률(MAP) 추정 문제를 다루며, 기존에 NP‑hard 문제로 알려진 일반 그래프에 대해 보다 효율적인 해결책을 제시한다. 먼저, MAP 추정을 정수 2차 프로그램(IQP) 형태로 수식화한다. 각 변수 x_i는 m개의 상태를 갖는 이진 벡터로 표현되며, 전체 변수 벡터 x와 블록 행렬 X=xxᵀ를 도입한다. 기존 LP 기반 이완에서는 마진 제약을 별도로 두어야 했지만, 저자는 반정밀도(cone) 제약 ⎡1 xᵀ x X⎤⪰0와 X_{ii}=Diag(x_i) 등을 이용해 마진 제약을 자동으로 만족하도록 설계한다. 비음성 제약 X_{ij}≥0은 그래프의 에지에만 적용해 제약 수를 크게 감소시킨다. 이러한 제약 집합을 통해 정의된 반정밀도 이완(SDR)은 다음과 같다: - 목적 함수: Σ_i w_i·x_i + Σ_{(i,j)∈E} ⟨W_{ij}, X_{ij}⟩ - 제약: ⎡1 xᵀ x X⎤⪰0, X_{ii}=Diag(x_i), 1ᵀx_i=1, X_{ij}≥0 (i,j)∈E 이론적으로는 (1) SDR이 기존 LP 이완에 포함되는 마진 제약을 자동으로 만족함을 정리 1로 증명하고, (2) 변수 재파라미터화(y=2x−1)와의 등가성을 정리 2로 제시한다. 두 정리는 SDR이 기존 SDP 이완(SDR2)과 동일한 최적값을 제공하지만, SDR이 더 간단한 선형 제약 구조를 유지함을 의미한다. 알고리즘 설계에서는 전통적인 내·외부점법(IPM)이 차원 제한으로 대규모 문제에 부적합함을 지적하고, ADMM 기반의 SDP AD를 기반으로 저차원 구조를 활용한 변형인 SDPAD‑LR을 제안한다. 주요 절차는 다음과 같다. 1. 라그랑주 승수 y와 비음성 듀얼 변수 z를 각각 (AAᵀ)⁻¹·A·(S−C+μX)−μb와 (C−S+μX)₊ 형태로 폐쇄형 업데이트한다. 2. S는 S = C + Aᵀ(y) − Pᵀ(z) − μX 로 표현되며, 기존 방법에서 필요했던 전체 행렬의 고유값 분해 대신, X를 저차원 행렬 V∈ℝ^{nm×r} (r≪nm) 로 근사하여 S를 V·Vᵀ 형태로 업데이트한다. 이는 메모리와 연산 복잡도를 O(nmr)로 감소시킨다. 3. X는 X←X+P(z)+S−C−Aᵀ(y)·(1/μ) 로 갱신되며, 저차원 근사 덕분에 행렬 곱셈이 효율적으로 수행된다. 수렴 이론은 ADMM이 등식 제약만 존재할 때는 알려진 수렴성을 갖으며, 본 논문의 SDR에서는 비음성 제약이 오프다이아고날 블록에만 존재해 등식 제약과 독립적으로 처리될 수 있기 때문에 정리 3을 통해 전반적인 수렴을 보장한다. 실험에서는 두 주요 벤치마크 컬렉션인 OPENGM2와 PIC을 사용하였다. OPENGM2는 이미지 복원·분할·스테레오 매칭 등 다양한 비전 문제를 포함하고, PIC은 확률적 추론 챌린지로 복잡한 그래프 구조를 제공한다. 실험 설정은 다음과 같다. - 변수 수: 10⁴~10⁵, 상태 수: 2~100 - 비교 알고리즘: TRW‑S, MPLP, QPBO, 기존 SDP 솔버(SDPT3, CSDP) 등 - 평가 지표: 최종 MAP 에너지(목표 함수값), 실행 시간, 메모리 사용량 결과는 크게 세 가지 측면에서 기존 방법을 앞섰다. 첫째, 대부분의 실험에서 SDR을 SDPAD‑LR로 풀었을 때 얻은 MAP 에너지가 다른 알고리즘보다 높았다(즉, 더 좋은 해). 둘째, 실행 시간은 특히 대규모 그리드 그래프에서 5배 이상 빠른 것으로 나타났으며, 메모리 사용량도 수 GB 수준으로 제한돼 일반 PC에서도 실행 가능했다. 셋째, 기존 SDP 솔버는 변수 수가 10³ 수준을 넘어가면 수렴이 불가능하거나 메모리 초과가 발생했지만, SDPAD‑LR은 10⁵ 변수·수십 상태 문제에서도 안정적으로 수렴하였다. 추가 실험으로 저차원 근사(r)와 정확도 사이의 trade‑off를 분석했으며, r≈20~30이면 대부분의 사례에서 최적해와 거의 동일한 MAP 값을 얻을 수 있음을 확인했다. 이는 실제 문제에서 최적 X가 본질적으로 낮은 랭크를 갖는다는 경험적 사실을 뒷받침한다. 결론적으로, 본 논문은 (1) 반정밀도 이완을 통한 이론적 강점, (2) 저차원 구조를 활용한 ADMM 가속화, (3) 대규모 실험을 통한 실용성 입증이라는 세 축을 결합해, SDP 기반 MAP 추정이 소규모 전용 기법이 아니라 실제 대규모 비전·그래픽스·생물정보 분야에 적용 가능한 범용 솔루션임을 증명한다. 향후 연구 방향으로는 비음성 제약을 더욱 압축하는 스파스 구조 활용, 그리고 비정형 그래프에 대한 자동 랭크 추정 기법 개발이 제시된다.