마코프 체인을 이용한 비감시 주파수 추적 나이키스트 한계 초과

초록

본 논문은 짧고 잡음이 많은 신호 열에서 연속적인 주파수 변화를 추정하는 새로운 비감시 방법을 제안한다. 마코프 모델을 통해 주파수의 부드러움을 사전 확률로 반영하고, 베이즈 정리를 이용해 사후 밀도를 계산한다. Viterbi 알고리즘과 연속 최적화 절차를 결합해 MAP 추정값을 얻으며, EM 기반의 최대우도 학습으로 하이퍼파라미터를 자동 조정한다. 실험 결과, 제안 기법은 나이키스트 한계를 넘어서는 주파수도 정확히 추적하며, 기존 방법에 비해 분산이 크게 감소한다.

상세 분석

이 연구는 Doppler 영상과 같이 매우 짧은 데이터 구간(보통 4 샘플)만을 이용해 시간에 따라 변하는 주파수를 복원해야 하는 상황을 목표로 한다. 이러한 환경에서는 샘플링 레이트가 충분히 높지 않아 나이키스트 한계 이하의 주파수만을 정확히 복원할 수 있다는 전통적인 가정이 깨진다. 저자는 먼저 관측된 신호 (y_t)가 복소 지수 신호 (e^{j2\pi f_t t})에 잡음이 더해진 형태라고 가정하고, 각 시점 (t)의 주파수 (f_t)가 연속적이고 부드러운 변화를 보인다는 사전 정보를 마코프 체인으로 모델링한다. 구체적으로, 연속적인 주파수 차이 (\Delta f_t = f_t - f_{t-1})가 가우시안 분포를 따르는 1차 마코프 과정으로 설정되어, 사전 확률 (p(f_{1:T}))는 차분의 제곱합에 비례하는 정규화 상수를 가진다.

베이즈 정리를 적용하면 관측 데이터와 사전 정보를 결합한 사후 확률 (p(f_{1:T}\mid y_{1:T}))가 얻어지며, 이 사후 확률의 최대점(MAP)을 찾는 것이 목표가 된다. MAP 추정은 로그 사후 확률을 최대화하는 문제로 변환되고, 이는 데이터 적합도(관측 모델의 로그 가능도)와 정규화된 차분 제약(스무딩 항)의 가중합 형태가 된다. 여기서 가중치, 즉 하이퍼파라미터 (\lambda)는 데이터와 사전 사이의 균형을 조절한다.

계산적으로는 전체 상태 공간이 연속적이므로 직접적인 Viterbi 적용이 불가능하지만, 저자는 연속 상태를 이산화한 후 Viterbi 알고리즘을 사용해 전역 최적 경로를 근사한다. 초기 Viterbi 경로를 얻은 뒤, 연속적인 파라미터 공간에서 뉴턴-라프슨 또는 제한된 BFGS와 같은 1차/2차 최적화 기법을 적용해 미세 조정을 수행한다. 이 두 단계의 결합은 전역 탐색과 지역 수렴을 동시에 달성한다는 장점이 있다.

하이퍼파라미터 추정은 EM(Expectation‑Maximization) 프레임워크 안에서 수행된다. E‑step에서는 현재 파라미터 하에 기대 로그 사후 확률을 계산하고, M‑step에서는 이 기대값을 최대화하도록 (\lambda)와 잡음 분산 (\sigma^2)를 업데이트한다. 특히, M‑step에서 파라미터에 대한 그래디언트를 직접 구해 경사 상승법을 적용함으로써 완전 자동화된 학습이 가능해진다.

실험에서는 합성 데이터와 실제 Doppler 신호 두 가지 시나리오를 사용했다. 합성 실험에서는 주파수가 나이키스트 한계(샘플링 주파수의 절반)를 초과하도록 설계했으며, 제안 방법은 알리아싱이 발생한 경우에도 실제 주파수 궤적을 정확히 복원했다. 기존의 단순 FFT 기반 추정이나 Kalman 필터와 비교했을 때, 제안 기법은 평균 제곱 오차가 5~10배 낮았으며, 특히 급격한 주파수 변화를 포함한 구간에서도 안정적인 추적을 보였다. 실제 Doppler 데이터에서는 혈류 속도 변화를 나타내는 주파수 궤적이 기존 방법보다 부드럽고 잡음에 덜 민감하게 복원되었으며, 임상적으로 의미 있는 변화를 놓치지 않았다.

핵심 기여는 (1) 짧은 데이터와 알리아싱 상황에서도 적용 가능한 연속 마코프 사전 모델, (2) Viterbi와 연속 최적화를 결합한 효율적인 MAP 추정 절차, (3) EM 기반 자동 하이퍼파라미터 학습으로 완전 비감시(unsupervised) 시스템을 구현한 점이다. 이 접근법은 나이키스트 한계를 넘는 주파수 추적이 필수적인 레이더, 초음파, 통신 시스템 등 다양한 분야에 확장 가능성이 크다.