일반 위험 제어를 위한 선택적 예측 SCoRE 프레임워크

본 논문은 인공지능 모델을 실제 환경에 배포할 때, 예측이 불확실한 경우에 abstain(거부) 옵션을 제공하는 선택적 예측(selective prediction) 문제를 연속형 위험으로 확장한다. 기존 연구는 주로 이진 오류(예: 0‑1 손실)만을 다루었으며, 위험 제어를 위해 대규모 샘플에 대한 균일 집중(uniform concentration) 가정을 필요로 했다. 저자들은 이러한 한계를 극복하고자, 사전 학습된 블랙박스 모델 f와 별도로 학습된 스코어 함수 s를 이용해 위험을 추정하고, 교환가능성(exchangeability)만을 가정하는 새로운 프레임워크 SCoRE(Selective Conformal Risk control with E-values)를 제안한다. SCoRE는 두 가지 위험 제어 지표를 정의한다. 첫 번째는 Marginal Deployment Risk(MDR)로, 배포된 인스턴스 전체에 대한 기대 위험 E