고해상도 양자화가 fGn·fBm 신호에 미치는 백색 잡음 효과

본 논문은 고해상도(High‑Resolution) 양자화 가정 하에 분수 가우시안 잡음(fGn) 및 분수 브라운 운동(fBm) 신호를 균일 양자화했을 때 발생하는 양자화 오차가 백색 잡음으로 모델링될 수 있음을 수학적으로 증명한다. 1. **배경 및 필요성** fGn·fBm은 장기 의존성을 갖는 확률 과정으로, 통신 네트워크 흐름, 경제 시계열, 텍스처 이미지 등 다양한 분야에서 활용된다. 실제 데이터는 샘플링과 양자화를 거치므로, 양자화 오차가 Hurst 지수 추정이나 스펙트럼 분석에 미치는 영향을 이해하는 것이 중요하다. 기존 연구에서는 일반적인 신호에 대해 양자화 오차가 백색 잡음에 근접한다는 고해상도 이론을 제시했지만, fGn·fBm처럼 비정상적(비정규) 특성을 가진 신호에 대한 명시적 증명은 없었다. 2. **이산시간 fGn·fBm 모델** - fGn은 가중합 형태 \(W_H(n)=\sum_{i=0}^{n}h_{H-1/2}(n-i)W(i)\) 로 정의되며, 여기서 \(W(i)\)는 표준 정규 백색 잡음이다. - fBm은 fGn의 누적합 \(B_H(n)=\sum_{i=0}^{n}W_H(i)\) 로 표현된다. - 계수 \(h_{H-1/2}(k)=\Gamma(k+H-1/2)/