베셀 K 모델 기반 실·복소 선형 시스템의 희소 추정

초록

본 논문은 실수와 복소수 선형 모델 모두에 적용 가능한 새로운 가우시안 스케일 혼합(GSM) 사전인 베셀 K 모델을 제안한다. 베셀 K 모델은 혼합 확률밀도함수의 형태를 조절함으로써 Type I(맵)와 Type II(증거 최대화) 추정에 서로 다른 비선형 페널티를 유도한다. 이를 기반으로 EM 알고리즘을 변형한 희소 추정기를 개발했으며, 기존 Tipping‑Faul 및 Babacan 등 알고리즘을 특수 경우로 포함한다. 시뮬레이션 결과는 제안 방법이 수렴 속도, 희소성, 재구성 오차 및 저·중 SNR 환경에서의 강인성 면에서 기존 최첨단 방법들을 능가함을 보여준다.

상세 분석

베셀 K 모델은 가우시안 스케일 혼합(GSM) 구조에 감마 분포를 혼합 확률밀도함수(p(γ))로 사용함으로써, 가중치 w의 주변 사전 p(w)를 베셀 K 함수 형태로 만들었다. 실수 경우 ρ=½, 복소수 경우 ρ=1 로 정의되며, 이는 각각 실수와 복소수 가우시안 조건부 사전 p(w|γ)의 정규화 상수에 반영된다. 감마 분포의 형태 매개변수 ε와 비율 η를 조절하면, ℓ₁‑norm, ℓ₀‑근사, 로그‑합 등 다양한 비선형 페널티를 구현할 수 있다. 특히 ε=3/2, ρ=1 일 때 복소수 가중치에 대해 ℓ₁‑norm 페널티가 정확히 재현되며, 이는 기존 실수 전용 라플라스 사전을 복소수로 확장한 것과는 차별된다.

Type I 추정은 MAP 해를 직접 구하는 방식으로, 비용 함수 L_I(w)=‖y−Φw‖₂²+λ⁻¹q_I(w) 형태를 갖는다. 여기서 q_I(w) = −∑_i log