적응형 잡음 제거 성능 비교 연구

초록

본 논문은 적응형 필터인 RLS, LMS, 정규화 LMS를 이용해 음성 신호의 잡음 제거 성능을 비교한다. 다양한 스텝 사이즈와 필터 차수를 적용해 신호대잡음비(SNR), 평균제곱오차(MSE), 상관계수를 측정하고, 각 알고리즘의 수렴 속도와 안정성을 평가한다. 실험 결과는 정규화 LMS가 잡음 억제와 안정성 측면에서 가장 우수함을 보여준다.

상세 분석

본 연구는 적응형 필터링 기법을 음성 신호 잡음 제거에 적용함으로써, 실시간 통신 및 음성 인식 시스템에서의 품질 향상을 목표로 한다. RLS(Recursive Least Squares)는 최소제곱 오차를 재귀적으로 최소화하는 방식으로, 빠른 수렴 속도와 높은 정확도를 제공하지만 계산 복잡도가 O(N²) 수준으로 높아 실시간 구현에 부담이 된다. 반면 LMS(Least Mean Squares)는 오차에 대한 기울기를 이용해 계수를 업데이트하는 단순 구조로, 계산량이 O(N)으로 경량화가 가능하지만 스텝 사이즈 μ에 크게 의존한다. μ가 작으면 수렴이 느리고, 크게 잡으면 발산 위험이 있다. 정규화 LMS(NLMS)는 입력 신호의 에너지에 따라 스텝 사이즈를 자동 조정함으로써, μ 선택에 대한 민감도를 감소시키고 안정적인 수렴을 보장한다.

실험에서는 8kHz 샘플링 레이트의 실제 음성 데이터를 백색 가우시안 잡음과 색 잡음(AR(2) 모델)으로 오염시킨 후, 차수 4, 8, 12의 FIR 필터를 각각 적용하였다. 각 알고리즘에 대해 스텝 사이즈를 0.01, 0.05, 0.1로 변동시키고, 5000 샘플을 기준으로 SNR 향상, MSE 감소, 그리고 입력‑출력 간의 교차 상관계수를 측정하였다. 결과는 다음과 같다. RLS는 차수와 무관하게 가장 높은 SNR 향상(최대 15 dB)과 최소 MSE(≈1.2×10⁻⁴)를 기록했지만, 연산량이 크게 늘어나 CPU 사용률이 85 %에 달했다. LMS는 스텝 사이즈 0.05에서 최적 성능을 보였으며, 차수가 증가할수록 SNR 향상이 2 dB 정도 추가되었지만, 스텝 사이즈 0.1에서는 발산 현상이 관찰되었다. NLMS는 모든 차수와 스텝 사이즈에서 안정적인 수렴을 보였으며, 특히 차수 8에서 SNR 향상 13 dB, MSE 1.8×10⁻⁴, 교차 상관계수 0.96을 달성했다. 이는 입력 신호 에너지에 따라 스텝을 자동 보정함으로써, 과도한 업데이트를 방지하고 잡음 억제 효율을 유지한 결과이다.

또한, 필터 차수가 증가할수록 성능 향상이 점차 포화되는 현상이 확인되었다. 차수 8에서 대부분의 알고리즘이 최적에 근접했으며, 차수 12로 확대해도 SNR 향상은 0.5 dB 이하로 미미했다. 이는 음성 신호의 스펙트럼 특성이 제한적이기 때문에, 과도한 차수는 불필요한 파라미터 증가와 연산 부하만 초래한다는 점을 시사한다.

결론적으로, 실시간 시스템에서는 계산 복잡도가 낮은 NLMS가 가장 실용적이며, RLS는 오프라인 혹은 고성능 DSP 환경에서 최적의 잡음 억제를 제공한다. LMS는 스텝 사이즈 튜닝이 가능하고 구현이 간단하지만, 환경 변화에 민감해 안정적인 운영을 위해 추가적인 적응 메커니즘이 필요하다.