효율적인 추론 모델을 위한 PAC 기반 성능 보장

초록

본 논문은 대형 추론 모델(LRM)의 고비용 추론을 완화하기 위해, 사고 모드와 비사고 모드를 동적으로 전환하는 PAC(Probably Approximately Correct) 프레임워크를 제안한다. 불확실성 점수에 기반한 임계값을 캘리브레이션 데이터에서 상한 신뢰구간으로 추정하고, 이 임계값 이하에서는 저비용 비사고 모델을, 이상에서는 고비용 사고 모델을 사용한다. 이 방법은 분포에 독립적인 위험 상한을 제공하며, (ε, α)-PAC 효율성을 이론적으로 보장한다. 실험 결과, 다양한 논리·수학·텍스트 생성 벤치마크에서 40 % 이상의 토큰 절감과 함께 사용자가 지정한 성능 손실 한계(ε)를 만족함을 확인하였다.

상세 분석

본 연구는 LRM의 추론 비용을 줄이면서도 성능 저하를 통계적으로 제어하고자 하는 실용적 문제에 초점을 맞춘다. 핵심 아이디어는 두 모델, 즉 고성능·고비용 사고 모델 f와 저비용·낮은 정확도의 비사고 모델 ˜f를 결합한 복합 모델 ˆf를 설계하고, 입력마다 불확실성 점수 U(x)를 계산해 전환 임계값 û를 결정하는 것이다. 임계값 선택 과정에서 저자들은 ‘성능 손실’ L(u)=E