양자화된 압축 센싱: 평균 왜곡 분석과 복원 알고리즘 개선

초록

본 논문은 압축 센싱(CS) 측정값에 대한 스칼라·벡터·엔트로피 코딩 양자화의 평균 왜곡을 정량화하고, 양자화 오차를 고려한 BP와 SP 복원 알고리즘을 제안한다. 이론적 비대칭률-왜곡 함수와 경계식을 도출하고, 실험을 통해 제안 알고리즘이 기존 방법보다 복원 정확도가 크게 향상됨을 보인다.

상세 분석

논문은 먼저 압축 센싱 측정값 y=Φx에 양자화가 적용될 때 발생하는 평균 제곱오차(MSE)를 정밀히 분석한다. 스칼라 양자화에 대해서는 두 가지 확률 모델을 가정한다. 가정 I에서는 측정 행렬 Φ가 1/√m 스케일의 i.i.d. 서브가우시안 엔트리로 구성되고, 신호 x는 정확히 K-희소이며 비제로 성분도 서브가우시안이라고 가정한다. 이 경우, 양자화 비율 R이 무한대로 커질 때 한 측정당 왜곡 D*_SQ(R)는 2R·K·D*_SQ(R) → (π√3)/2 라는 상수에 수렴한다(정리 1). 동일한 가정 하에 균일 스칼라 양자화의 경우는 2R·K·R·D*_u,SQ(R) → (4/3)·ln2 라는 값으로 수렴한다. 이는 최적 비균일 양자화에 비해 약 1/R 배 정도 큰 손실을 의미한다.

가정 II에서는 x의 비제로 성분이 표준 정규분포를 따르고, Φ는 동일한 서브가우시안 행렬이다. 여기서는 행렬의 열 제곱합 평균 μ₁과 최대 열 제곱합 μ₂를 도입해 왜곡의 상한·하한을 제시한다. 구체적으로 (π√3)/2·μ₁ ≤ liminf … ≤ limsup … ≤ (π√3)/2·μ₂ 로, 행렬의 스펙트럼 특성에 따라 왜곡이 달라짐을 보인다.

벡터 양자화와 엔트로피 코딩 양자화에 대해서는 정확한 비대칭률-왜곡 함수를 구하기 어려워 상한·하한을 제시하고, 특히 엔트로피 코딩을 적용한 비균일 양자화가 균일 양자화보다 평균 왜곡을 크게 감소시킴을 이론적으로 설명한다.

복원 알고리즘 측면에서는 기존 BP(ℓ₁ 최소화)와 SP(서브스페이스 추구) 방법이 양자화 오차를 무시하면 복원 오류가 크게 증가함을 지적한다. 이를 해결하기 위해 두 알고리즘을 수정한다. BP의 경우, 제약식 y=Φx 를 y≈q(y) 로 대체하고, 허용 오차 범위를 양자화 구간 반경으로 설정한 제약 최적화를 수행한다. SP는 각 반복 단계에서 잔차를 양자화 오차의 상한으로 제한하고, 선택된 서포트 집합에 대해 최소 제곱 문제를 풀 때 양자화 오차를 포함한 정규화된 비용 함수를 사용한다.

시뮬레이션에서는 Gaussian 행렬과 K=10, N=1000, m=200 정도의 설정에서 다양한 비율 R(26 bits/sample)로 실험한다. 결과는 제안된 양자화‑인식 BP와 SP가 기존 양자화 무시 BP/SP보다 평균 복원 SNR이 37 dB 향상됨을 보여준다. 또한, 엔트로피 코딩을 결합한 비균일 양자화가 동일 비트레이트에서 균일 양자화 대비 1.5~2 dB 이득을 제공한다.

전체적으로 논문은 압축 센싱 시스템 설계 시 양자화 모델을 명시적으로 고려해야 함을 강조하고, 비대칭률-왜곡 이론을 통해 설계 파라미터(R, K, m)와 행렬 특성(μ₁, μ₂) 사이의 정량적 관계를 제공한다. 제안된 복원 알고리즘은 실용적인 양자화 환경에서도 높은 복원 정확도를 유지할 수 있는 실용적 해결책을 제시한다.