신호와 잡음 공분산이 불확실한 경우의 최적 신호 재구성 방법

초록

본 논문은 가우시안 신호와 가우시안 잡음이 선형 측정에 섞여 있을 때, 신호와 잡음의 공분산이 모두 미지인 상황에서 최소 Gibbs 자유 에너지 원리를 이용해 베이지안 추정을 수행하는 알고리즘을 제시한다. 기존 Wiener 필터와 비슷한 형태의 업데이트 식을 도출하고, 이를 “확장된 비판적 필터”(extended critical filter)라 명명한다. 1‑차원 및 구면 데이터 시뮬레이션을 통해 잡음 공분산을 추정하면서도 신호 스펙트럼을 동시에 복원하는 성능을 검증하였다.

상세 분석

이 연구는 두 가지 주요 불확실성을 동시에 다루는 점에서 기존 문헌과 차별화된다. 첫째, 신호 공분산 S와 잡음 공분산 N을 각각 고유값‑고유벡터 전개 형태로 파라미터화하고, 각 고유값에 대해 역감마(역감마) 사전분포를 부여함으로써 비정보적 Jeffreys prior를 일반화한다. 이는 공분산 행렬의 스케일과 형태를 데이터로부터 학습하도록 허용한다는 의미이다. 둘째, 최소 Gibbs 자유 에너지 원리를 적용해 전체 사후분포 P(s|d)를 가우시안 근사 G(s‑m,D)로 변분 최적화한다. 여기서 온도 T=1을 선택하면 Gibbs 자유 에너지와 비대칭 Kullback‑Leibler 발산이 동일해지므로, 최적화는 KL 최소화와 동등하게 된다. 변분 미분을 통해 얻은 최적 조건은

• 평균 m = D j,
• 정보 소스 j = Σ_j δ_j \tilde{r}_j R^† N_j^{‑1} d,
• 공분산 D^{‑1} = Σ_k γ_k \tilde{q}_k S_k^{‑1} + Σ_j δ_j \tilde{r}_j R^† N_j^{‑1} R

와 같은 형태이며, 여기서 \tilde{q}_k와 \tilde{r}_j는 현재 추정된 신호·잡음 파라미터에 대한 기대값(평균 제곱)이다. 이 식은 전통적인 Wiener 필터(공분산이 알려진 경우)와 구조적으로 동일하지만, γ_k와 δ_j라는 베타‑형 사전 파라미터가 추가되어 파라미터 추정이 자동으로 포함된다.

알고리즘 흐름은 다음과 같다. 초기값으로 p_k와 η_j(공분산 고유값)를 설정하고, 위 식에 따라 m과 D를 계산한다. 이후 m과 D를 사용해 새로운 p_k와 η_j를 업데이트한다(식 31b, 31c). 이 과정을 수렴할 때까지 반복한다. 수렴 조건은 보통 평균 제곱 오차 변화가 미세하게 될 때이다.

시뮬레이션에서는 1‑차원 2048 포인트와 HEALPix Nside=16(3072 픽셀) 구면 데이터를 사용했다. 신호 스펙트럼은 P_s(k)∝(1+k)^{‑2}와 C_ℓ∝(1+ℓ)^{‑2}인 파워‑로우 형태를 채택했으며, 잡음은 세 가지 경우(동질, 구역별 비동질, 개별 픽셀 비동질)로 설정했다. 결과는 다음과 같다.

1. 잡음이 동질일 때는 기존 Wiener 필터와 거의 동일한 복원 품질을 보였으며, 파라미터를 추정함에도 불구하고 성능 저하가 없었다.
2. 잡음이 구역별로 크게 변할 경우, 기존 Wiener 필터(잡음이 동질이라고 가정)와 비판적 필터(신호 스펙트럼만 추정)는 잡음이 큰 영역에서 과도한 평활화와 신호 손실을 일으켰다. 반면 확장된 비판적 필터는 잡음 공분산을 자동으로 조정해, 높은 잡음 영역에서도 적절히 가중치를 낮추어 신호를 복원했다.
3. 개별 픽셀 수준에서 잡음이 변동하는 경우에도 동일한 경향이 관찰되었으며, 특히 잡음이 급격히 증가한 픽셀에서 복원 오차가 현저히 감소하였다.

이러한 실험은 제안된 알고리즘이 잡음 공분산의 불확실성을 효과적으로 추정하면서도 신호 스펙트럼을 동시에 학습한다는 점을 입증한다. 또한, 고유값‑고유벡터 전개와 역감마 사전 선택이 베이지안 추정의 수렴성을 보장하고, 실제 천문학 데이터(예: CMB 지도)와 같은 고차원 문제에도 적용 가능함을 시사한다.

다만, 현재 구현은 0차 근사(고차 항 무시)와 온도 T=1에 국한되어 있다. 온도 조정을 통한 베이시안 정규화(예: 온도 스케줄링)나 고차 근사(앱펜디스 A) 적용 시 수렴 속도와 정확도가 개선될 여지가 있다. 또한, 고유벡터가 사전에 알려졌다는 가정이 현실에서는 제한적일 수 있으므로, 고유벡터 자체를 학습하는 확장도 필요하다.