예측을 통한 가우시안 레이트‑왜곡 함수 구현

본 논문은 정적 가우시안 소스의 레이트‑왜곡 함수(RDF)를 기존의 주파수‑도메인 워터‑필링 해법 대신 시간‑도메인 선형 예측 구조를 이용해 구현하는 새로운 접근법을 제시한다. 서론에서는 워터‑필링 해법이 파워 스펙트럼 S(e^{j2πf})에 기반해 R(D)=∫_{S>θ}½·log(S/θ)df 로 표현되며, 이는 테스트 채널 Y_n = h_{2,n} * (h_{1,n} * X_n + N_n) 형태로 구현된다고 설명한다. 여기서 N_n은 분산 θ인 백색 가우시안 잡음이다. 저자들은 이와 대조적으로, 예측 루프에 AWGN 채널을 삽입하고 전·후 필터를 적절히 설계하면 동일한 RDF를 달성할 수 있음을 보인다. 핵심 구성은 그림 1에 제시된 세 블록(전처리 필터 H_1, 예측 루프, 후처리 필터 H_2)이다. 전처리 필터는 |H_1(e^{j2πf})|^2 = 1 - D(e^{j2πf})/S(e^{j2πf}) 로 정의되며, 이는 원 신호 X_n을 변형해 U_n을 만든다. 예측 루프는 다음과 같은 재귀식으로 동작한다. ① \hat U_n = g(V_{n-1},…,V_{n-L}) – 과거 출력 V의 선형 결합으로 U_n을 예측한다. ② Z_n = U_n - \hat U_n – 예측 오류를 구한다. ③ Z_{q,n}=Z_n+N_n – 오류에 백색 가우시안 잡음 N_n(분산 θ)을 더한다. ④ V_n = \hat U_n + Z_{q,n} – 최종 출력 V_n을 만든다. 이 구조는 전통적인 DPCM과 동일하지만, 양자화 대신 연속적인 가우시안 잡음이 삽입된 점이 차별화된다. DPCM의 ‘오류 정체성’ V_n = U_n + N_n 가 그대로 유지되며, 따라서 전체 시스템은 U_n → V_n 사이에 메모리 없는 AWGN 채널이 존재한다는 사실을 보여준다. 주요 정리(Theorem 1)는 두 가지 핵심을 포함한다. 첫째, 위에서 정의한 전·후 필터와 예측 루프를 사용하면 평균 제곱 왜곡 E