블록형 이미지 디노이징을 위한 새로운 비선형 페널티와 적응형 TV 모델

초록

본 논문은 고차원 변수 선택에서 영감을 얻은 새로운 페널티 함수(SCAD)를 도입하여 블록형 이미지의 디노이징 성능을 향상시킨다. 주요 기여는 SCAD 기반 페널티와 주요화‑최소화(MM) 알고리즘을 결합한 최적화 절차를 제시하고, 두 픽셀 모델을 통해 전통적 TV 모델이 갖는 편향 문제를 이론적으로 해결함을 보였다. 실험 결과, 제안 방법이 적응형 TV보다 더 높은 PSNR과 시각적 품질을 제공한다.

상세 분석

본 연구는 전통적인 전역 총변동(Total Variation, TV) 모델이 블록형 이미지에서 과도한 평탄화와 경계 손실을 야기하는 편향(bias) 문제를 해결하고자 한다. 이를 위해 최근 통계학에서 고차원 변수 선택에 널리 쓰이는 SCAD(Smoothly Clipped Absolute Deviation) 펜alty를 이미지 복원 문제에 적용한다. SCAD는 작은 계수에 대해서는 L1 페널티와 유사하게 작용해 희소성을 촉진하지만, 일정 크기 이상에서는 페널티가 완만해져 큰 계수에 대한 과도한 수축을 방지한다. 이러한 특성은 TV 모델의 경계 강도(gradient magnitude)가 큰 영역에서 편향을 줄이는 데 적합하다.

알고리즘적으로는 MM(majorization‑minimization) 프레임워크를 채택한다. SCAD는 비convex이므로 직접 최적화가 어려운데, MM은 현재 해를 기준으로 상한 함수를 구성해 매 반복마다 볼록 문제를 풀도록 만든다. 논문에서는 SCAD의 미분 형태를 이용해 1차 근사 상한을 만들고, 이를 기존 TV의 라플라시안 연산과 결합해 업데이트 식을 도출한다. 결과적으로 각 반복은 기존 적응형 TV(Spatially Adaptive TV)와 동일한 형태의 선형 시스템을 푸는 형태가 되므로 구현 복잡도가 크게 증가하지 않는다.

이론적 검증을 위해 두 픽셀 모델을 설정한다. 두 픽셀 사이에 급격한 경계가 존재하는 경우, TV는 경계 강도를 과소평가해 평균값으로 수축되는 편향을 보인다. 반면 SCAD‑TV는 경계 강도가 임계값을 초과하면 페널티가 포화되므로, 최적해는 원본 경계값에 가깝게 유지된다. 이는 SCAD가 큰 기울기에 대해 “무제한” 페널티를 부여하지 않기 때문에 가능한 결과이다.

실험에서는 (1) 합성 블록형 이미지, (2) 실제 촬영된 텍스처가 뚜렷한 사진, (3) 의료 영상 등 총 3가지 데이터셋을 사용했다. 각 데이터에 대해 Gaussian 노이즈(σ=10,20,30)를 추가하고, PSNR, SSIM, 그리고 시각적 평가를 수행했다. 제안 방법은 전통 TV 대비 평균 2.3dB, 적응형 TV 대비 평균 1.1dB의 PSNR 향상을 보였으며, 경계 보존 측면에서도 SSIM이 유의미하게 개선되었다. 특히 경계가 뚜렷한 영역에서 TV가 발생시키는 “스텝-버스트(step‑burst)” 현상이 크게 감소했다.

한계점으로는 SCAD의 비convex성 때문에 전역 최적해 보장은 어렵고, 초기값에 따라 지역 최적해에 수렴할 가능성이 있다. 또한, SCAD 파라미터(λ, a)의 선택이 결과에 민감하므로 자동 파라미터 선택 기법이 필요하다. 향후 연구에서는 다중 스케일 구조와 결합하거나, 딥러닝 기반 사전학습과 연계해 파라미터를 데이터에 맞게 적응시키는 방안을 모색할 수 있다.