상태공간에서 확률 신호 탐지를 위한 재귀 알고리즘

초록

본 논문은 상태공간 모델로 표현된 확률 신호를 탐지하기 위한 재귀적 처리 구조를 제안한다. 제안된 알고리즘은 칼만 필터와 구조적으로 유사하지만, 탐지 목적에 맞게 가중치와 피드백 계수를 설계한다. 연속시간 형태와 상관 잡음·백색 잡음 혼합 상황, 다중 가설 탐지까지 확장한다.

상세 분석

논문은 먼저 확률 신호와 잡음을 상태공간 형태 x(k+1)=F x(k)+w(k), y(k)=H x(k)+v(k) 로 기술하고, 기존의 칼만 추정기와 달리 탐지 문제에 초점을 맞춘다. 핵심 아이디어는 사후 확률비를 재귀적으로 계산하기 위해 가중치 행렬 W(k)와 피드백 행렬 K(k) 를 시간에 따라 업데이트하는 것이다. 이때 W(k) 는 현재 관측 y(k) 와 이전 상태 추정값을 결합하는 증폭 계수이며, K(k) 는 이전 추정오차를 보정하는 피드백 계수이다. 논문은 이러한 계수들을 직접 해석적 형태가 아닌, W(k)=R⁻¹ · H·P(k) 와 K(k)=F·P(k)·Hᵀ·R⁻¹ 와 같은 암시적 관계로 정의한다. 여기서 P(k) 는 상태 공분산 행렬이며, 칼만 필터와 동일한 리카티 방정식을 만족한다. 따라서 알고리즘 구조는 “예측‑업데이트” 루프를 갖는 칼만 필터와 거의 동일하지만, 목적함수가 로그우도비이므로 가중치가 탐지 성능에 직접 연결된다.

알고리즘의 안정성 및 수렴 특성을 분석하기 위해 증폭 계수 W(k)와 피드백 계수 K(k) 의 동적 변화를 시뮬레이션하였다. 결과는 잡음 공분산이 변할 때 W(k) 가 급격히 변동하지만 K(k) 는 비교적 완만하게 조정되어 시스템의 견고성을 확보함을 보여준다. 또한 탐지 특성(ROC 곡선, 검출 확률 P_D 및 위양성률 P_FA)은 전통적인 비재귀식 검출기보다 동일한 계산 복잡도에서 우수함을 입증한다.

연속시간 버전은 미분 방정식 형태로 전개되며, 상태 전이 행렬 F 와 관측 행렬 H 를 이용해 d x(t)/dt=F x(t)+w(t), y(t)=H x(t)+v(t) 로 표현한다. 여기서도 동일한 가중치‑피드백 구조가 유지되며, 리카티 방정식이 연속시간 리카티‑비아라 방정식으로 대체된다.

마지막으로, 상관 잡음과 백색 잡음이 혼합된 경우, 잡음 공분산을 블록 대각 형태로 분해하고 각각에 대한 가중치를 별도로 계산한다. 다중 가설 탐지(다중 대안) 상황에서는 로그우도비를 다중 비교 기준으로 확장하고, 각 가설에 대한 W_i(k), K_i(k) 를 독립적으로 업데이트함으로써 복합적인 결정 규칙을 구현한다. 전체적으로 논문은 재귀적 구조를 통해 실시간 탐지 시스템에 적합한 효율적인 구현 방안을 제시한다.