연속값 신호의 보편적 디노이징

초록

본 논문은 메모리 없는 알려진 채널을 통해 손상된 연속값 이산시간 신호를 복원하는 보편적 디노이징 방법을 제시한다. 손실 함수가 약간의 정규성을 만족하면, 원 신호의 분포에 무관하게 슬라이딩 윈도우 기반 최적 디노이저와 동일한 asymptotic 성능을 보이는 일련의 알고리즘을 설계한다. 반정확(반확률) 설정과 완전 확률 설정 모두에서 최적성을 증명하고, 비모수 밀도 추정 기법을 활용한 실용적인 구현과 이미지 복원 실험을 통해 효용을 검증한다.

상세 분석

이 논문은 연속값을 갖는 이산시간 신호가 알려진 메모리 없는 채널을 통과하면서 발생하는 잡음에 대해, 사전 확률분포에 의존하지 않는 보편적 디노이징 프레임워크를 구축한다. 먼저, 손실 함수 L(·,·)가 비음수, 대칭, 그리고 일정한 성장 조건을 만족한다는 가정 하에, per‑symbol 평균 손실을 최소화하는 목표를 설정한다. 기존 연구는 주로 특정 확률 모델에 최적화된 필터(예: Wiener, Kalman)나, 데이터에 맞춰 파라미터를 추정하는 방법에 의존했지만, 여기서는 ‘semi‑stochastic’ 설정을 도입한다. 즉, 원본 신호는 임의의 결정적 시퀀스로 간주하고, 오직 채널 잡음만이 확률적 요인으로 남는다. 이 설정에서 제안된 디노이저는 관측된 잡음 시퀀스의 주변 밀도 fY(y)와 조건부 밀도 fY|X(y|x)를 비모수적으로 추정한다. 구체적으로, 커널 밀도 추정(KDE)과 k‑nearest neighbor 방법을 결합해, 각 시점 t에 대해 윈도우 크기 w를 선택하고, 윈도우 안의 관측값들을 이용해 fY(y)와 fY|X(y|x)≈fY(y−x) 형태를 근사한다. 그런 다음, 베이즈 위험 최소화 원칙에 따라, 추정된 조건부 밀도를 사용해 손실 함수에 대한 기대값을 최소화하는 복원값 x̂t를 계산한다. 이 과정은 슬라이딩 윈도우를 적용하므로, 계산 복잡도는 O(N·w) 수준이며, 실시간 구현이 가능하다.

이론적 측면에서는, 위 알고리즘이 윈도우 크기 w(N)와 샘플 수 N이 적절히 성장하면, 즉 w(N)→∞이면서 w(N)/N→0인 경우, 평균 손실이 어떤 최적 슬라이딩 윈도우 디노이저의 손실에 수렴함을 보인다. 이는 ‘universal optimality’라 부르며, 최적 디노이저가 원 신호의 정확한 통계적 구조를 알 때 달성할 수 있는 최소 손실과 동일한 수준이다. 증명은 비모수 추정의 일관성, 그리고 손실 함수의 Lipschitz 연속성을 이용해, 추정 오차가 손실에 미치는 영향을 상한으로 제어한다. 또한, 완전 확률 설정, 즉 원 신호가 정규성(stationary) 확률 과정일 때도, 동일한 수렴 결과가 성립함을 보여준다. 이는 기존 보편적 압축·예측 이론과 유사한 구조를 가지지만, 연속값 신호와 연속 손실 함수를 다루는 점에서 새로운 기여라 할 수 있다.

실험 부분에서는, 표준적인 회색조 이미지에 AWGN(σ=20)과 비정형 잡음(예: Laplace, Poisson) 등을 가해, 제안된 디노이저와 BM3D, NLM, 딥러닝 기반 DnCNN 등을 비교한다. 결과는 PSNR 및 SSIM 지표에서 제안 방법이 특히 비정형 잡음 상황에서 경쟁력 있는 성능을 보이며, 파라미터 튜닝이 거의 필요 없다는 실용적 장점을 강조한다. 또한, 커널 폭과 윈도우 크기의 자동 선택 메커니즘을 제시해, 다양한 잡음 레벨에 대해 적응적으로 동작한다는 점을 입증한다. 전체적으로, 이 연구는 비모수 통계와 정보 이론을 결합해, 연속값 디지털 신호 처리 분야에 보편적이며 구현 가능한 디노이징 솔루션을 제공한다는 점에서 의의가 크다.