비선형 양자화 데이터로 정확한 사인파 진폭 측정

본 논문은 아날로그‑디지털 변환기(ADC)의 비선형 양자화 특성을 고려한 사인파 진폭 추정 문제를 다룬다. 전통적으로 사인파 진폭은 최소제곱추정(LSE)을 이용해 양자화된 샘플로부터 추정해 왔으며, 이는 양자화 오차를 독립적인 잡음으로 모델링한다. 그러나 실제 ADC는 전이 레벨이 균등하지 않거나 환경·공정 변동에 따라 비선형성을 보이기 때문에, LSE는 편향된 결과를 초래한다. 특히 INL(Integral Non‑Linearity)이 존재할 경우, LSE의 편향은 양자화 스텝 Δ와 비슷한 수준까지 커져 측정 정확도를 크게 저하시킨다. 이에 저자들은 전이 레벨 정보를 활용하는 새로운 추정기, 즉 평균값 기반 추정(MVBE)을 제안한다. 시스템 모델은 다음과 같다. 입력 사인파 xₙ=sin(2πλn+φ₀)와 진폭 θ, 그리고 독립적인 잡음 ηₙ가 합쳐진 신호가 ADC에 입력된다. ADC는 L개의 구간으로 나뉘며, 각 구간의 경계 Tₖ(0≤k≤L)가 알려져 있다고 가정한다. 양자화된 출력 yₙ는 해당 구간에 따라 정해진 정수값을 갖는다. MVBE는 각 구간 k에 대해 지시 변수 zₙ,ₖ를 정의한다. zₙ,ₖ=1이면 입력 신호(θ·xₙ+ηₙ)가 Tₖ보다 크고, 그렇지 않으면 0이다. 이 변수는 베르누이 확률변수이며 성공 확률 pₙ,ₖ=1−F(Tₖ−θ·xₙ)이다. 여기서 F는 잡음 ηₙ의 누적분포함수이다. N개의 샘플에 대해 Z_{N,k}=∑ₙzₙ,ₖ를 계산하면, Z_{N,k}는 성공 횟수를 나타내는 통계량이 된다. N이 충분히 크면, 대수의 법칙에 의해 Z_{N,k}/N은 기대값 E(Zₖ)와 근접한다. 이 기대값은 E(Zₖ)=∫₀¹