잔차 기반 정규화 방법의 안정성·수렴 이론과 응용

초록

본 논문은 잔차 방법(제약 정규화)의 일반 위상공간에서의 안정성·수렴성을 체계화하고, Bregman 거리 기반 수렴 속도 결과를 제시한다. 선형 연산자 방정식, Wasserstein 거리와 엔트로피를 이용한 밀도 추정, 압축 센싱 등 세 가지 사례를 통해 비볼록 정규화까지 포괄하는 적용 가능성을 입증한다.

상세 분석

논문은 먼저 잔차 방법을 “제약 정규화”라 정의하고, 기존의 Tikhonov 정규화와는 달리 목표함수와 데이터 적합도 사이에 명시적인 제약을 두는 형태를 채택한다. 이 접근법은 실제 응용에서 노이즈 수준을 직접 제어할 수 있다는 장점이 있지만, 수학적으로는 제약 집합이 비선형·비볼록일 경우 해의 존재·유일성, 연속성 등을 보장하기가 어려운 것이 현실이다. 저자들은 이를 해결하기 위해 일반적인 위상공간 (X)와 관측공간 (Y) 위에 각각 거리 혹은 세미노름 구조를 도입하고, 데이터 적합도 함수 (\mathcal{S}:Y\times Y\to