워터스테인 분포강건 수행예측 프레임워크와 알고리즘 설계

초록

**
본 논문은 모델 배포가 데이터 분포를 변화시키는 수행예측 상황에서, 워터스테인 거리 기반의 분포강건 최적화를 제안한다. 모형‑의존적 반경을 갖는 워터스테인 불확실성 집합을 도입하고, 강한 이중성을 이용해 원문 문제를 계산적으로 tractable 한 min‑max 형태로 변환한다. 이를 바탕으로 두 가지 반복 학습 알고리즘인 DR‑RRM(분포강건 반복 위험 최소화)과 DR‑RGD(분포강건 반복 경사 하강)를 설계하고, 근사 오차를 포함한 수렴 및 안정성 이론을 제시한다. 마지막으로 동적 신용점수 시뮬레이션을 통해 제안 방법의 실효성을 입증한다.

**

상세 분석

**
본 연구는 수행예측(performance prediction)이라는 새로운 학습‑배포 상호작용 모델을 워터스테인 기반 분포강건 최적화(DRO)와 결합한다는 점에서 혁신적이다. 전통적인 수행예측은 배포된 모델 θ에 의해 유도되는 실제 분포 P(θ)를 직접 사용해 위험을 최소화한다. 그러나 P(θ)는 사전 관측이 불가능하고, 데이터는 제한된 샘플만을 제공한다는 현실적 제약이 있다. 이를 해결하기 위해 저자들은 경험적 분포 (\hat P(θ))를 중심으로 반경 ρ(θ)인 워터스테인 불확실성 집합 (B_{ρ(θ)}(\hat P(θ)))을 정의한다. 특히 ρ가 θ에 의존하도록 설계함으로써, 모델이 수렴할수록 강건성 반경을 점진적으로 축소해 과도한 보수성을 완화한다는 실용적 아이디어를 제공한다.

핵심 이론적 기여는 두 단계에 걸친 변환이다. 첫째, Lagrangian relaxation을 적용해 원래의 무한 차원 최적화 문제를
\