비국소 평균과 적응형 커널 기반 이미지 복원의 이론적 한계

** 이 논문은 비국소 평균(NLM) 알고리즘과 그 변형들을 이론적으로 분석하여, 이미지 복원 분야에서 기존 방법들과의 성능 차이를 정량화한다. 연구는 크게 네 부분으로 구성된다. 첫 번째 부분에서는 이미지 복원을 비파라메트릭 회귀 문제로 공식화한다. 관측값 \(y_i = f(x_i)+\varepsilon_i\) 를 가정하고, 평균제곱오차(MSE)를 편향과 분산으로 분해한다. 여기서 함수 클래스 \(\mathcal F\) 를 정의하는 것이 핵심이며, 논문은 세 가지 주요 클래스—카툰 모델 \(\mathcal F_{\text{cartoon}}(\alpha,C_0)\), 얇은 구조물 모델 \(\mathcal F_{\text{thin}}(\alpha,C_0,d_0,a)\), 규칙적 패턴 모델 \(\mathcal F_{\text{pattern}}(\alpha,C_0,a)\)—를 제시한다. 카툰 모델은 두 개의 Hölder 연속 영역으로 구분된 이미지이며, 얇은 구조물 모델은 두께 \(a\) 가 \(n\) 에 따라 감소하는 저차원 표면을 포함한다. 규칙적 패턴 모델은 동일한 모양이 격자 형태로 반복되는 구조를 갖는다. 각 모델에 대해 최소극대 위험 \(R_n^*(\mathcal F)\) 를 기존 문헌(예: Korostelev & Tsybakov)과 일치하도록 설정한다. 두 번째 부분에서는 다양한 커널 기반 추정기—선형 필터, 가변대역 커널(Lepski 방법), 야로스라프키 필터(YF), 비국소 평균(NLM) 및 그 패치 평균 변형—에 대해 오라클 부등식을 도출한다. 오라클 부등식은 “이론적 최적 가중치”를 가정했을 때 얻을 수 있는 위험의 상한을 의미한다. 이를 통해 각 방법이 어떤 상황에서 최적에 근접하는지를 판단한다. 선형 필터와 가변대역 커널은 편향이 경계 근처에서 크게 남아 최소극대 속도에 못 미친다. YF는 잡음이 작아 경계가 섞이지 않을 때만 최적에 가깝고, 잡음이 커지면 급격히 성능이 떨어진다. 세 번째 부분은 NLM의 상세 분석이다. NLM은 패치 크기 \(p\) 와 검색 반경 \(r\) 를 조절하여 가중치를 정의한다. 논문은 두 단계로 접근한다. 첫째, “평균 버전” NLM을 로컬 다항 회귀와 연결시켜, 패치 내부에서 다항 근사(차수 \(\ell\))를 수행함으로써 편향을 \(O(h^{\alpha+\ell+1})\) 로 억제한다. 둘째, 검색 윈도우를 전역이 아닌 지역적으로 선택하면 희소 패치 효과를 방지하고, Lepski 방식에 의해 자동으로 최적 밴드폭 \(h\) 를 얻을 수 있음을 증명한다. 결과적으로 NLM은 카툰 이미지에서 YF와 동등하거나 약간 우수한 수렴률을 보이며, 얇은 구조물과 규칙적 텍스처에서는 선형 필터 대비 현저히 낮은 위험을 달성한다. 특히 텍스처 영역에서는 패치 기반 중복성을 활용해 잡음 억제 효과가 크게 증가한다. 네 번째 부분은 실험적 검증이다. 2D 이미지(256×256) 세 종류—카툰(Blob, Bowl), 얇은 선(Swoosh), 규칙적 스트립(Barbara의 스카프)—에 대해 σ=10,20,30 수준의 가우시안 잡음을 추가하고, 각 방법의 PSNR을 측정했다. 실험 결과는 이론적 오라클 부등식과 거의 일치했으며, NLM이 얇은 구조물과 텍스처 이미지에서 3~5dB 이상의 PSNR 향상을 보였다. 또한, 패치 크기를 충분히 크게(≈\(h^{-d}\)) 잡고 검색 반경을 \(h^{-1}\) 로 설정했을 때 최적 성능에 근접함을 확인했다. 논문은 마지막으로 기존 연구와의 차별점을 논의한다. Maleki et al. (2014)와 Tsybakov (1998)의 결과와 비교하여, 본 연구는 (1) 카툰 모델뿐 아니라 얇은 구조물·패턴 모델까지 확장, (2) 로컬 다항 회귀를 통한 편향 감소 메커니즘을 명시, (3) 오라클 부등식과 최소극대 하한을 동시에 제공함으로써 NLM의 이론적 한계를 포괄적으로 제시한다. 향후 연구 방향으로는 비정형 텍스처, 색채 채널 간 상관관계, 그리고 딥러닝 기반 사전과의 결합을 제안한다. **