불확정 요소가 있는 신호 분해에서 사후분포 요약 방법

초록

본 논문은 구성 요소 수가 사전적으로 알려지지 않은 신호 분해 문제에서, 전이형 마코프 체인 몬테카를로(RJ‑MCMC)로 얻은 가변 차원 샘플을 효과적으로 요약하기 위한 새로운 파라메트릭 모델과 Stochastic EM 알고리즘을 제안한다. 제안 방법은 Kullback‑Leibler 발산을 최소화하는 방식으로 복잡한 사후분포를 가변 차원의 가우시안 혼합 모델로 근사하고, 라벨 스위칭 및 이상치에 강인한 추정 절차를 포함한다. 실험은 백색 가우시안 잡음 속에 포함된 사인파 검출 예제로 수행되어, 기존의 베이지안 모델 선택(BMS) 대비 구성 요소별 존재 확률과 파라미터를 더 풍부히 제공함을 확인한다.

상세 분석

이 논문은 “전이형(trans‑dimensional) 베이지안 추정”이라는 난제에 대해 두 가지 핵심 아이디어를 결합한다. 첫 번째는 사후분포를 단순하지만 가변 차원을 허용하는 파라메트릭 모델, 즉 각 구성 요소가 존재 여부를 나타내는 베르누이 변수와 연계된 다중 가우시안 컴포넌트들의 집합으로 표현한다는 점이다. 여기서 각 가우시안 컴포넌트는 평균 µₗ, 공분산 Σₗ, 존재 확률 πₗ을 파라미터로 갖으며, 전체 모델은 L개의 잠재 컴포넌트가 동시에 존재할 수도, 일부만 존재할 수도 있는 구조를 가진다. 이는 전통적인 고정 차원 GMM과 달리 “라벨 스위칭” 문제를 자연스럽게 해결한다는 장점이 있다.

두 번째 아이디어는 파라미터 추정을 위해 KL 발산 최소화를 목표 함수로 삼고, 이를 Stochastic EM(SEM) 프레임워크로 구현한다는 점이다. 기존 EM의 E‑step에서 모든 가능한 할당(z) 조합을 열거해야 하는 계산 복잡도가 k!에 달해 실용적이지 않으므로, 논문은 S‑step에서 현재 파라미터 추정값을 조건으로 할당을 샘플링하는 독립 Metropolis‑Hastings 절차를 도입한다. 이렇게 얻어진 샘플 기반 “가짜 완전 데이터”를 이용해 M‑step에서 파라미터를 업데이트한다.

알고리즘의 실용성을 높이기 위해 두 가지 로버스트화 전략을 추가한다. 첫째, M‑step에서 평균과 공분산을 단순 평균·공분산이 아니라 중앙값·사분위 범위 기반 추정량으로 교체해 이상치(특히 고차원 k에서 나타나는 확산된 샘플)로 인한 왜곡을 억제한다. 둘째, 전체 사후분포를 완전히 설명하지 못하는 잔여 부분을 포아송 프로세스(균일 강도)로 모델링함으로써 L이 실제 관측된 최대 k보다 작아도 충분히 근사할 수 있게 한다.

실험에서는 N=64 길이의 신호에 세 개의 사인파가 포함된 상황을 사용한다. RJ‑MCMC 샘플을 통해 얻은 k와 정렬된 주파수의 사후분포는 그림 1에 제시되며, BMS는 가장 확률이 높은 k=2 모델만을 선택해 중간 주파수 성분을 놓친다. 제안 방법은 L=3 가우시안 컴포넌트를 설정하고 50번의 SEM 반복을 수행한 뒤, 각 컴포넌트의 평균(추정된 주파수)과 존재 확률 π를 도출한다. 결과적으로 추정된 평균은 실제 주파수와 근접하고, 존재 확률은 중간 성분에 대해 낮은 값(≈0.02)을 부여해 불확실성을 정량화한다. 또한, 파라미터 수렴 그래프(J값)와 컴포넌트 파라미터 변화는 10번째 반복 이후 거의 안정됨을 보여 알고리즘의 수렴성을 확인한다.

이와 같이 논문은 전이형 베이지안 모델링에서 “모델 선택 vs. 모델 평균”의 딜레마를 넘어, 모든 가능한 차원의 정보를 통합해 구성 요소별 존재 확률과 파라미터를 동시에 제공하는 새로운 요약 프레임워크를 제시한다.