조각별 선형 정규화 해 경로의 일반화와 효율적 알고리즘

본 논문은 정규화된 최적화 문제 \(\hat\beta(\lambda)=\arg\min_{\beta} L(y,X\beta)+\lambda J(\beta)\) 에 대해, 해의 계수 경로가 정규화 파라미터 \(\lambda\) 에 대해 **조각별 선형(piecewise linear)** 이 되는 일반적인 조건을 탐구한다. 기존에 LASSO(제곱 오차 손실 + ℓ₁ 페널티) 에서만 알려졌던 이 특성을, 손실 함수와 페널티 함수의 구조적 특성으로 일반화한다. ### 1. 문제 정의와 동기 데이터가 고차원(\(p\)≫\(n\))일 때 과적합을 방지하기 위해 정규화가 필수적이며, 다양한 분야에서 손실 함수와 페널티가 조합된 형태가 사용된다. 저자들은 이러한 일반적인 정규화 문제에서 **전체 해 경로** \(\{\hat\beta(\lambda):\lambda\ge0\}\) 를 효율적으로 구할 수 있는 조건을 찾고자 한다. ### 2. 조각별 선형 경로의 수학적 조건 손실 \(L\) 와 페널티 \(J\) 가 모두 두 번 미분 가능하고, 최적해 근방에서 \