RED를 가속하는 가중치 근접법: 효율적인 RED 솔버 설계

초록

본 논문은 REgularization by Denoising(RED) 프레임워크의 계산량을 줄이기 위해 가중치 근접법(WPM)을 적용한다. 기존의 고정점(FP) 및 가속 근접 경사(APG) 방법이 WPM의 특수 경우임을 보이고, Hessian 근사인 SR1 업데이트를 이용한 새로운 가중치를 도입해 denoiser 호출 횟수를 크게 감소시킨다. 실험 결과, 이미지 복원(디블러링·초해상도)에서 WPM이 FP, FP‑MPE, APG보다 적은 연산 시간과 denoiser 평가 수로 동등하거나 더 높은 PSNR을 달성한다.

상세 분석

RED는 최신 이미지 denoiser를 명시적 사전(prior)으로 활용해 일반적인 역문제에 적용할 수 있는 매력적인 프레임워크이다. 그러나 RED의 핵심 연산인 denoiser 호출이 매 반복마다 필요하므로 전체 실행 시간이 denoiser의 복잡도에 의해 지배된다. 논문은 이 문제를 “가중치 근접법”(Weighted Proximal Methods, WPM)이라는 일반적인 최적화 틀 안에서 재구성한다.

먼저, 기존 RED 솔버인 고정점(Fixed‑Point, FP) 방법과 가속 근접 경사(Accelerated Proximal Gradient, APG) 방법을 WPM의 두 특수 사례로 보인다. FP는 가중치 행렬 B를 단순히 αI(α는 RED 정규화 파라미터)로 두고 스텝 사이즈 a=1을 선택하면 (7)식과 동일해진다. APG는 동일한 가중치를 사용하면서 Nesterov 가속을 적용한 형태이며, 이는 WPM의 가속 버전과 일치한다.

핵심 기여는 “더 효과적인 가중치”를 설계함으로써 수렴 속도를 향상시키는 것이다. RED의 정규화 항 R(x)=½‖x−f(x)‖²의 Hessian은 직접 계산이 불가능하지만, quasi‑Newton 방법 중 하나인 SR1(Symmetric Rank‑One) 업데이트를 이용해 Hessian 근사를 얻는다. 구체적으로, 각 반복 k에서
s_k = x_k − x_{k‑1}, m_k = ∇g(x_k) − ∇g(x_{k‑1}) (여기서 g(x)=αR(x))
를 이용해 τ와 u_k를 계산하고, B_k = τI + u_k u_kᵀ 로 정의한다. τ가 음수이거나 업데이트가 불안정할 경우 B_k를 기본값 αI 로 되돌린다. 이렇게 얻은 B_k는 기존의 단순 스칼라 가중치보다 실제 곡률 정보를 반영하므로, (11)식의 선형 시스템을 더 정확히 전처리한다.

알고리즘 구현에서는 B_k를 명시적 행렬이 아니라 행‑벡터 연산자로 구현해 메모리와 연산량을 최소화한다. 스텝 사이즈 a_k는 기본값 1을 사용하고, 목표 함수값이 급격히 증가할 경우에만 절반으로 감소시키는 간단한 적응 전략을 적용한다. 이는 denoiser 호출을 최소화하면서도 수렴을 보장한다.

수렴 이론 측면에서, g와 h가 강볼록이며 Lipschitz 연속인 경우 SR1 기반 WPM은 선형 수렴을 보인다(문헌