프리즘: 비용‑민감·불확실성 인식형 사전 개입 프레임워크

초록

PRISM은 사용자 도움이 필요할 확률(p need)과 제안이 수용될 확률(p accept)을 캘리브레이션한 뒤, 비용‑민감 임계값 τ(p need)와 비교해 개입 여부를 결정한다. 불확실한 경우에만 고비용 Slow 모드를 활성화하고, 교사‑학생 구조의 게이트 정렬 증류로 경량 학생 모델을 학습한다. ProactiveBench에서 기존 최첨단 대비 거짓 알람을 22.78% 감소시키고 F1을 20.14% 향상시켰다.

상세 분석

PRISM은 사전 개입 문제를 “비용‑민감 선택적 개입”으로 공식화한다. 매 시점 t에 에이전트는 컨텍스트 Xₜ로부터 두 개의 캘리브레이션된 확률 p_needₜ = Pr(도움 필요|Xₜ)와 p_acceptₜ = Pr(제안 수용|Xₜ, intervene)를 추정한다. 이때 비용‑민감 게이트는 다음과 같은 동적 임계값을 사용한다.
τ(p_needₜ) = C_FA / (C_FA + p_needₜ·C_FN)
여기서 C_FA는 거짓 알람(불필요한 개입)의 비용, C_FN은 놓친 기회(거짓 부정)의 비용이다. p_need가 클수록 τ가 낮아져, 필요성이 높을수록 낮은 수용 확률에도 개입을 허용한다. 임계값은 p_need에 대해 단조 감소하고, 비용 비율에 대해 단조 증가한다는 수학적 성질을 논증해, 사용자가 비용 파라미터만 조정하면 직관적인 트레이드오프를 얻을 수 있다.

연산 효율성을 위해 PRISM은 이중 프로세스 구조를 채택한다. Fast 모델은 경량 네트워크로 p_need와 p_accept를 빠르게 예측하고, |p_accept - τ(p_need)| ≤ δ_slow 인 경우에만 Slow 모델을 호출한다. δ_slow은 “경계 마진”으로, 불확실한 영역을 정의한다. 이 설계는 “Slow‑only‑near‑boundary” 원칙을 구현해, 대부분의 명확한 상황에서는 Fast만으로 충분하고, 고비용 연산은 실제로 의사결정에 영향을 미칠 가능성이 높은 경우에만 수행된다. 따라서 평균 지연과 토큰 비용이 크게 감소한다.

학습 단계에서는 교사 모델이 전체 파이프라인(Fast + Slow + 게이트)을 실행해 밀집된 실행 가능한 레이블(need, accept, counterfactual 체크)을 생성한다. 이후 Decision‑Consistent Curation(RDC) 점수
R_DC = y_accept − |q_need − y_need|²·𝟙{y_need=1} − |q_accept − y_accept|²
를 이용해 고품질 데이터 서브셋 D*를 선정한다. 학생 모델은 이 서브셋에 대해 지도 학습을 수행하며, 손실 L = L_need + L_acc + L_burden 로 구성한다. L_need와 L_acc는 각각 캘리브레이션 손실(예: 온도 스케일링 + Brier 스코어)이며, L_acc는 역프로펜시티 스코어링을 사용해 선택 편향을 보정한다. L_burden은 거짓 알람과 Slow 토큰 사용을 비용 항으로 직접 페널티한다. 이렇게 게이트와 마진을 학습 목표에 포함시킴으로써, 훈련 시와 배포 시의 정책 차이를 최소화한다.

실험에서는 ProactiveBench(코딩, 글쓰기, 일상) 233개의 테스트 클립에 대해 Recall, Precision, F1, False‑Alarm Rate, AUDBC를 측정했다. PRISM‑학생(Qwen3‑8B‑PRISM)은 교사 DeepSeek‑R1 대비 Precision을 77.05%→84.85%(인간 평가)로 크게 개선했고, 거짓 알람 비율을 22.94%→25.91% 수준으로 낮추었다. 동시에 Recall은 98.88% 수준으로 유지해, 비용‑민감 트레이드오프에서 전반적인 AUDBC가 가장 높았다. Ablation에서 δ_slow을 없애면 Slow 호출 비율이 3배 증가하지만 F1 향상이 미미함을 확인했으며, 캘리브레이션 드리프트가 발생하면 게이트 임계값 재조정만으로도 성능 회복이 가능함을 보였다. 전체 파이프라인은 1 A100 GPU에서 2.5시간 학습 후, 추론 시 평균 지연 120 ms(Fast‑only)와 380 ms(Slow‑trigger)로 실시간 서비스에 충분히 적용 가능하다.

요약하면 PRISM은 (1) 비용‑민감 확률 게이트, (2) 경계 기반 선택적 Slow 모드, (3) 게이트‑정렬 증류라는 세 가지 핵심 메커니즘을 결합해, 기존의 휴리스틱 기반 또는 전역 Slow 추론 방식보다 정확도·효율·제어 가능성에서 모두 우수한 사전 개입 에이전트를 구현한다.