대규모 변분 베이지안 추론을 이용한 구조화 스케일 혼합 모델

초록

본 논문은 자연 이미지의 다중 스케일 계층적 의존성을 포착하는 비인수(latent tree‑structured) 스케일 혼합 사전분포를 도입하고, 이를 선형 관측 모델에 적용하기 위한 대규모 변분 베이지안 추론 알고리즘을 제시한다. 제안된 방법은 기존의 팩터리얼(희소) 사전보다 더 풍부한 구조 정보를 활용하여 이미지 복원(노이즈 제거, 인페인팅, 디컨볼루션 등)에서 정량적·정성적으로 우수한 성능을 보이며, MAP 추정이나 팩터리얼 베이지안 추론에 비해 계산 효율성도 유지한다.

상세 분석

이 연구는 이미지 통계가 여러 스케일에서 계층적 상관관계를 가진다는 사실에 착안한다. 전통적인 스파스 코딩은 픽셀 혹은 패치 수준에서 독립적인 라플라시안 혹은 가우시안 스케일 혼합을 가정하지만, 실제 자연 영상은 저주파와 고주파 성분이 트리 구조로 연결되어 서로 영향을 주고받는다. 저자들은 이러한 구조를 ‘latent tree‑structured scale mixture model’이라 명명하고, 각 노드가 스케일 변수와 가우시안 잠재 변수의 곱으로 표현되는 혼합 모델을 설계한다. 핵심은 트리 구조를 유지하면서도 변분 베이지안 프레임워크 안에서 효율적인 근사 사후분포를 계산하는 것이다.

변분 목표함수는 평균‑필드 근사를 기반으로 하며, 각 노드에 대한 가우시안 잠재 변수와 스케일 변수의 사후를 독립적으로 업데이트한다. 트리 구조 덕분에 메시 패싱(message passing) 알고리즘을 적용해 복잡도는 O(N·L) 수준으로 유지된다(N은 픽셀 수, L은 스케일 레벨). 또한, 스케일 변수에 대한 로그‑정규 사전과 가우시안 잠재 변수에 대한 표준 정규 사전을 결합함으로써, 비인수 모델이 제공하는 ‘스파스 + 구조’ 특성을 자연스럽게 구현한다.

알고리즘은 대규모 이미지에 적용 가능하도록 설계되었으며, 선형 관측 모델(예: 블러링, 마스크 손실)과 결합될 때도 사후 업데이트 식이 닫힌 형태를 유지한다. 실험에서는 표준 베이스라인인 MAP‑L2, MAP‑L1, 그리고 팩터리얼 변분 베이지안(IVB)과 비교했을 때, PSNR 및 SSIM 지표에서 평균 0.51.2dB, 0.020.05 정도의 향상을 기록한다. 특히, 인페인팅과 디컨볼루션 같은 고난이도 복원 작업에서 구조적 사전이 손실된 고주파 정보를 효과적으로 복구함을 확인했다.

이 논문의 의의는 두 가지이다. 첫째, 비인수 사전이 제공하는 풍부한 구조 정보를 변분 베이지안 추론에 성공적으로 통합함으로써, 기존 팩터리얼 모델이 놓치던 계층적 의존성을 포착한다. 둘째, 트리 구조와 메시 패싱을 활용한 효율적인 구현을 통해 대규모 이미지에도 실시간에 가까운 처리 속도를 유지한다는 점이다. 향후 연구에서는 더 복잡한 그래프 구조(예: 그리드 혹은 하이퍼그래프)로 확장하거나, 딥러닝 기반 사전과 결합해 하이브리드 모델을 탐색할 여지가 있다.