베이지안 압축 센싱을 위한 믿음 전파

본 논문은 “베이지안 압축 센싱(Bayesian Compressive Sensing, CS)”이라는 새로운 접근법을 제안한다. 전통적인 압축 센싱은 신호 x∈ℝᴺ이 희소하거나 근사 희소라는 가정 하에, M≪N개의 선형 측정 y=Φx를 통해 원본을 복원한다. 복원 방법으로는 ℓ₀ 최소화(NP‑hard) 대신 ℓ₁ 최소화(기저 추구, Basis Pursuit)나 다양한 그리디 알고리즘(OMP, CoSaMP 등)이 사용되었으며, 이들 모두 인코딩 행렬 Φ가 독립적인 서브가우시안 원소를 갖는 밀집 행렬일 때 이론적 보장을 제공한다. 그러나 밀집 행렬은 곱셈 비용이 O(MN)이며, ℓ₁ 최적화는 일반적으로 O(N³) 정도의 복잡도를 요구한다. 이에 저자들은 두 가지 혁신적인 설계를 도입한다. 첫 번째는 인코딩 행렬 Φ를 LDPC‑형식의 희소 행렬로 구성하는 것이다. 각 행은 정확히 L개의 비제로 원소(값은 ±1)만을 갖고, 각 열은 R개의 비제로 원소를 갖는다. 이러한 구조는 행‑열 곱셈을 O(L)·O(M)≈O(N log N) 수준으로 낮추며, 메모리 사용량도 크게 감소한다. 두 번째는 신호에 대한 사전 확률 모델을 베이지안 프레임워크로 명시하는 것이다. 신호 계수 xᵢ는 두 상태 Qᵢ∈{0,1}에 따라 서로 다른 가우시안 분포를 따른다. Qᵢ=1이면 큰 계수이며 분산 σ₁²(σ₁²≫σ₀²), Qᵢ=0이면 작은 계수이며 분산 σ₀²이다. Qᵢ는 독립적인 베르누이 변수이며, Pr(Qᵢ=1)=S=K/N으로 설정한다. 이 두 상태 혼합 가우시안 모델은 실제 이미지·음성 등에서 관측되는 ‘대부분은 작고 소수는 크다’는 특성을 간결하게 포착한다. 베이지안 모델을 그래프 형태로 변환한다. 변수 노드(계수 xᵢ)와 제약 노드(측정 yⱼ) 사이에 비제로 원소가 존재하는 경우에만 엣지를 연결한다. 각 제약 노드는 선형 방정식 yⱼ=∑_{i∈N(j)} Φ_{j,i} xᵢ 로 표현된다. 이렇게 구성된 이중 이진 그래프에 믿음 전파(Belief Propagation, BP) 알고리즘을 적용한다. BP는 변수 노드와 제약 노드 사이에 메시지를 교환하면서, 각 변수에 대한 사후 평균 μᵢ와 분산 νᵢ를 반복적으로 업데이트한다. 메시지는 가우시안 형태를 유지하도록 설계되어, 계산량이 크게 늘어나지 않는다. 복원 복잡도는 다음과 같이 분석된다. 각 변수 노드는 평균 L개의 제약 노드와 연결되고, 각 제약 노드는 평균 R개의 변수 노드와 연결된다. 한 번의 BP 반복은 O(N·L·R)≈O(N log² N) 연산을 필요로 하며, 수십 번의 반복만으로 수렴한다. 측정 수 M은 O(K log N) 정도면 충분하다는 정리 1을 제시한다. 정리 1은 Φ의 행 무게 L를 L=η ln(SN/(1+γ))·S 로 설정하고, M≥C·K·log N (C는 상수)일 때, 복원된 신호 \hat{x}가 원본 x와 ℓ_∞ 오차가 μσ₁ 이하가 되는 확률이 1−2^{−γ}임을 보인다. 이는 기존 ℓ₁ 기반 복원에서 요구되는 M=O(K log(N/K))와 동일한 차수이지만, 연산량이 크게 감소한다는 장점을 갖는다. 실험에서는 N=10⁴~10⁵, K=O(√N) 정도의 설정에서 CS‑BP가 ℓ₁ 최소화와 OMP보다 약 10배~100배 빠르게 복원하면서도 재구성 오류가 비슷하거나 더 낮은 결과를 보였다. 또한, 잡음이 있는 경우에도 행 무게 L을 조정하면 측정 벡터 y가 두 상태 혼합 가우시안 분포에 근사하도록 만들 수 있어, BP가 자연스럽게 노이즈를 모델링한다. 논문의 마지막 섹션에서는 다음과 같은 확장 가능성을 논의한다. (1) 다중 상태 혼합 가우시안 또는 비대칭 평균을 갖는 보다 복잡한 사전 모델; (2) Φ가 단순히 아이덴티티가 아닌 다른 변환 Ψ와 결합된 경우, 즉 x=Ψθ 형태의 신호에 대한 일반화; (3) 실시간 영상 압축, 무선 센서 네트워크, 의료 영상 등에서의 하드웨어 구현 가능성; (4) LDPC‑형식 Φ와 LDLC(저밀도 격자 부호)와의 연관성을 이용한 수렴 이론 강화. 요약하면, 이 논문은 (i) 희소 인코딩 행렬을 이용해 인코딩·디코딩 비용을 로그 차수로 낮추고, (ii) 베이지안 사전 모델을 그래프화해 BP로 효율적인 추론을 수행함으로써, 압축 센싱 분야에 실용적인 고속·저전력 솔루션을 제공한다는 점에서 큰 의미를 가진다.