동적 신호 측정을 위한 양자화 데이터 기반 새로운 추정기

본 논문은 동적 신호, 특히 사인파와 같은 주기 신호를 양자화된 데이터로부터 파라미터 추정할 때 발생하는 근본적인 문제점을 짚고, 이를 해결하기 위한 새로운 추정기인 Quantile‑Based‑Estimator(QBE)를 제시한다. 1. **문제 제기** 전통적으로 최소제곱추정(LSE), 즉 사인파 피팅이 양자화된 데이터에 적용되어 왔지만, LSE는 입력 신호가 가우시안 잡음에 의해 크게 왜곡되지 않은 경우에만 최적이다. 실제 ADC는 비균일 전이 레벨(Integral Non‑Linearity, INL)과 각 코드 구간의 폭 차이(Differential Non‑Linearity, DNL)를 가지고 있으며, 특히 신호‑대‑잡음비(SNR)가 높아 양자화 오차의 결정적 성분이 지배적일 때 LSE는 편향을 보인다. 논문은 시뮬레이션을 통해 비균일 양자화에서 LSE의 평균 절대 오차가 균일 양자화 대비 최대 29배까지 증가함을 실증한다. 2. **기존 대안과 한계** 최대우도추정(ML)이나 수정된 LSE 등도 제안되었지만, ML은 차원의 저주(curse of dimensionality)와 지역 최소점 문제로 계산량이 급증한다. 또한, 기존 방법들은 전이 레벨 정보를 활용하지 않으므로 비균일 양자화의 비선형성을 보정하지 못한다. 3. **Quantile‑Based‑Estimator(QBE)의 핵심 아이디어** - **전이 레벨 캘리브레이션**: ADC의 모든 전이 레벨 T_k 를 사전 측정한다. - **확률 추정**: 각 전이 레벨 이하에 입력 신호가 위치할 확률 p_k