HJ‑Prox 기반 연산 분할: 닫힌 형태 근접 연산 없이도 최적화 가능

초록

본 논문은 최근 제안된 Hamilton‑Jacobi 기반 근접 연산(HJ‑Prox)을 기존 연산 분할 알고리즘에 적용하는 통합 이론을 제시한다. HJ‑Prox는 함수 평가만으로 근접 연산을 근사하는 무미분 몬테카를로 기법이며, 이를 Proximal Point, Proximal Gradient, Douglas‑Rachford, Davis‑Yin, Primal‑Dual Hybrid Gradient 등 주요 분할 방법에 삽입한다. 오류가 가산가능하도록 δ와 샘플 수 N을 설계하면, 기존 수렴 보장을 거의 그대로 유지한다. 실험에서는 LASSO, Sparse Group LASSO, 이미지 복원 등 다양한 학습 문제에서 HJ‑Prox 기반 분할이 정확한 근접 연산을 사용한 경우와 동등한 성능을 보이며, 닫힌 형태 근접 연산이 존재하지 않는 문제에도 적용 가능함을 확인한다.

상세 분석

본 연구는 연산 분할 알고리즘이 근접 연산의 존재에 크게 의존한다는 기존 한계를 HJ‑Prox라는 무미분 몬테카를로 근사법으로 극복한다는 점에서 혁신적이다. HJ‑Prox는 Hamilton‑Jacobi 편미분 방정식의 점착 해(viscosity solution) 이론을 이용해,
\