대규모 선형 역문제용 융합 L1/2 사전과 Gibbs Bouncy Particle Sampler

초록

본 논문은 이미지 복원 등에서 자주 등장하는 대규모 선형 역문제에 대해, 가장자리 보존과 희소성을 동시에 촉진하는 융합 L1/2 사전을 제안한다. 이 사전은 Gaussian mixture Markov random field 형태로 변환될 수 있어 조건부 사후분포가 모두 닫힌 형태를 갖는다. 기존 Gibbs 샘플러는 고차원 Gaussian 샘플링 비용이 커서 실용적이지 않으나, 저자들은 이를 Piecewise Deterministic Markov Process 기반의 Bouncy Particle Sampler와 결합한 Gibbs‑BPS를 설계하여 연산 복잡도를 크게 낮추었다. 수렴 이론을 제시하고, 컴퓨터 단층촬영(CT) 실험을 통해 기존 베이지안 방법들과 비교해 경쟁력 있는 정확도와 뛰어난 효율성을 입증한다.

상세 분석

본 연구는 베이지안 선형 역문제에서 사전 선택이 해의 안정성과 해석 가능성에 미치는 영향을 깊이 탐구한다. 기존 L1, total variation, horseshoe 등은 각각 희소성 혹은 가장자리 보존에 초점을 맞추었지만, 비볼록·비리프시치 연속성을 갖는 경우 gradient‑based MCMC가 적용되지 못한다는 한계가 있다. 저자들은 이러한 한계를 극복하기 위해 ‘융합 L1/2 사전(fused L1/2 prior)’을 도입한다. 이 사전은 픽셀값 자체와 인접 픽셀 간 차이에 대해 각각 α=½(또는 그 배수) 지수를 적용함으로써, 희소성(값이 0에 가까운)과 가장자리(큰 차이) 양쪽을 동시에 강화한다. 중요한 점은 α가 ½, ¾ 등 1/2의 배수일 때, 지수형 파워 사전이 Laplace 혼합표현을 갖게 되어, 추가적인 잠재 변수 r을 도입하면 전체 사전이 Gaussian mixture MRF로 전환된다는 것이다. 이 변환을 통해 조건부 사후분포는 (i) 이미지 변수 x에 대한 다변량 정규분포, (ii) 지역 및 전역 수축 파라미터 τ, τ_h, τ_v에 대한 지수·감마 혼합분포, (iii) 하이퍼파라미터 λ에 대한 감마분포로 완전히 닫힌 형태가 된다.

그러나 고차원 정규분포 샘플링은 O(n³) 비용을 요구하는 Cholesky 분해가 필요해 대규모 문제에 비현실적이다. 이를 해결하기 위해 저자들은 Piecewise Deterministic Markov Process(PDMP) 중 Bouncy Particle Sampler(BPS)를 차용한다. BPS는 연속시간 비가역 프로세스로, 상태는 위치와 속도(velocity) 쌍으로 표현되며, 선형 연산만으로 이벤트(충돌) 시간을 계산한다. 특히 Gaussian 목표분포에 대해서는 누적분포함수의 역변환(inverse‑transform)만으로 이벤트 시간을 샘플링할 수 있어, 매 반복마다 행렬‑벡터 곱 한 번만 수행하면 된다. 이 특성을 이용해, 이미지 변수 x에 대한 샘플링을 BPS로 대체하고, 나머지 τ·λ 파라미터는 기존 Gibbs 업데이트로 유지하는 ‘Gibbs‑BPS’ 알고리즘을 설계한다.

수렴성 측면에서 저자들은 Gibbs‑BPS가 각 블록의 마코프 커널이 각각 불변분포를 보유하고, 전체 체인이 비가역이지만 상세균형(detailed balance) 대신 전역 균형(global balance)을 만족함을 증명한다. 따라서 목표 사후분포에 대한 정확한 샘플을 제공한다는 이론적 보장을 얻는다.

실험에서는 64×64부터 256×256까지 다양한 크기의 CT 재구성 문제를 설정하고, 기존 pCN, Metropolis‑within‑Gibbs, 그리고 horseshoe 기반 베이지안 방법과 비교한다. 정량적 평가지표(PSNR, SSIM)와 실행 시간 모두에서 Gibbs‑BPS가 경쟁력 있는 복원 품질을 유지하면서, 특히 256×256 규모에서는 기존 Gibbs 샘플러 대비 10배 이상 빠른 수렴을 보였다. 또한, 하이퍼파라미터 λ를 전면 베이지안(감마 사전) 혹은 경험적 베이즈(EM) 방식으로 추정했을 때 결과가 크게 차이나지 않으며, 전면 베이지안이 구현이 간단하고 안정적임을 확인한다.

결과적으로, 이 논문은 (1) 비볼록·비리프시치 사전의 Gaussian mixture 표현을 통한 조건부 사후분포의 닫힌 형태 확보, (2) 고차원 Gaussian 샘플링을 BPS로 대체함으로써 연산 복잡도를 O(n) 수준으로 낮춤, (3) 이론적 수렴 보장과 실험적 효율성을 동시에 만족하는 새로운 베이지안 샘플링 프레임워크를 제시한다는 점에서 큰 의의를 가진다.