정확 페널티 방법의 경로 추적

본 논문은 볼록 최적화 문제에서 정확 페널티(Exact Penalty) 방법을 적용할 때 발생하는 실용적 난관—절대값 페널티의 비미분점과 적절한 페널티 상수 ρ의 사전 불확실성—을 극복하기 위해, 페널티 상수를 고정하지 않고 연속적으로 변화시키며 해의 경로를 추적하는 새로운 알고리즘을 제안한다. 1. **배경 및 문제 정의** 전통적인 페널티 방법은 제약 위반을 제곱형 페널티 ρ·‖g(x)‖² 로 벌칙을 주어, ρ→∞ 로 갈 때 원래 제약 최적화 해에 수렴한다. 정확 페널티는 이 제곱형을 절대값형 ρ·‖g(x)‖₁ 로 바꾸어, 충분히 큰 유한한 ρ에서도 원래 해와 동일함을 보장한다. 그러나 절대값형은 비미분점(kink)을 포함하고, 어느 ρ에서 정확히 회복되는지는 사전에 알 수 없으며, 최적화 알고리즘이 이러한 비연속성을 다루기 어려워 실제 적용이 제한적이다. 2. **경로 추적 아이디어** 저자들은 ρ를 연속 매개변수로 두고, 해 x(ρ)를 ρ의 함수로서 정의한다. ρ=0일 때는 무제약 최적해 x₀를 구하고, ρ를 점진적으로 증가시키면서 x(ρ) 가 어떻게 변하는지를 추적한다. 이 과정에서 해는 제약면에 닿고, 제약을 따라 미끄러지며, 필요에 따라 제약을 벗어나는 일련의 ‘활성 집합 전이’를 겪는다. 이러한 전이는 KKT 조건을 ρ에 대해 전미분함으로써 얻어지는 미분 방정식, 즉 dx/dρ = -