주파수 영역 칼만 필터 효율적 개선

초록

본 논문은 주파수 영역 칼만 필터(FKF)의 대각화 형태가 모델 차원보다 작은 경우(언더모델링) 편향된 정착해를 보인다는 점을 분석한다. 이를 해결하기 위해 두 가지 계산량이 거의 증가하지 않는 개선 알고리즘을 제안하고, 수렴 특성을 이론적으로 비교한다. 시뮬레이션 결과는 제안 방법이 기존 FKF에 비해 안정적인 최적 정착해와 빠른 수렴을 제공함을 보여준다.

상세 분석

주파수 영역 칼만 필터는 시간‑도메인 적응 필터를 푸리에 변환한 뒤 각 주파수 bin 별로 독립적인 Kalman 업데이트를 수행함으로써 연산량을 크게 감소시키고, 수렴 속도를 향상시킨다. 대부분의 구현에서는 공분산 행렬을 대각화하여 복잡도를 O(N) 수준으로 낮추지만, 이 과정에서 서로 다른 주파수 성분 간의 상관관계가 무시된다. 논문은 이러한 대각화가 실제 시스템 차원보다 적은 모델 차수를 사용할 때, 즉 언더모델링 상황에서 필터가 목표 시스템을 정확히 추정하지 못하고 편향된 해를 수렴한다는 점을 수식적으로 증명한다. 구체적으로, 상태 전이 행렬과 관측 행렬이 완전한 랭크를 갖지 못하면, Kalman 이득이 실제 최적값보다 과소/과대 평가되어 잔차 공분산이 비정상적으로 감소하고, 결국 필터 출력이 실제 신호와 시스템 응답 사이에 일정한 오차를 남긴다.

이를 해결하기 위해 저자는 두 가지 개선 방안을 제시한다. 첫 번째는 대각 공분산 근사 대신, 제한된 대역폭을 갖는 밴드 대각 행렬을 사용하여 인접 주파수 bin 간의 상관을 일부 복원하는 방법이다. 이 경우 행렬 연산량은 기존 O(N)에서 O(N·B)로 증가하지만, B를 2~3 정도로 제한하면 실시간 처리에 큰 부담을 주지 않는다. 두 번째는 기존 대각화된 공분산에 작은 정규화 항(εI)을 추가하는 방식으로, 이는 수치적 안정성을 높이고 편향을 보정한다. 두 방법 모두 이론적 분석을 통해 정착해가 실제 최적 Kalman 해와 일치함을 증명한다.

수렴 속도 분석에서는 개선된 알고리즘이 기존 FKF보다 더 큰 고유값 스펙트럼을 갖는 시스템에서도 안정적으로 수렴함을 보여준다. 특히, 밴드 대각 접근법은 고주파 성분에서의 과도한 진동을 억제하고, 정규화 항 방식은 초기 단계에서의 과도한 학습률 상승을 방지한다. 이러한 특성은 실시간 음성 강화, 에코 캔슬레이션 등 고차원 비정상 신호 처리에 유리하게 작용한다.