재샘플링 기반 추론 확장의 한계와 검증 오류의 영향

초록

본 논문은 단위 테스트와 같은 불완전한 검증자를 이용한 재샘플링 방식이 약한 모델의 추론 성능을 무한히 향상시킬 수 없음을 증명한다. 검증자의 거짓 양성 확률이 감소하지 않으며, 이는 약한 모델이 강한 모델의 단일 호출 정확도에 도달하지 못하게 하는 상한을 만든다. 실험적으로 HumanEval+와 MBPP+에서 약한 모델이 거짓 양성을 더 많이 생성하고, 최적 샘플 수가 10 이하인 경우가 많음을 보여준다. 또한 거짓 양성은 코드 스타일 등 품질 측면에서도 악영향을 미친다.

상세 분석

이 논문은 “검증 기반 재샘플링”이라는 추론 스케일링 기법을 체계적으로 분석한다. 핵심 가정은 검증자가 완전하지 않아 일정 확률(p_fp)로 잘못된 솔루션을 통과시킨다는 점이다. 저자는 p_fp가 샘플 수 K에 의존하지 않으며, 따라서 K→∞일 때도 전체 정확도는 1 − (1 − p_correct)·(1 − p_fp)⁽ᴷ⁾ 로 수렴한다는 수식적 한계를 제시한다. 여기서 p_correct는 모델이 실제 정답을 생성할 확률이다. 약한 모델은 p_correct가 낮고, 동시에 p_fp가 상대적으로 높아 “조건부 정확도”인 P(correct | pass verifier) 가 강한 모델보다 크게 뒤처진다. 이는 “일반화 격차”라 부르며, 검증자가 제한된 테스트 커버리지를 가질 때 특히 두드러진다.

실험에서는 HumanEval+와 MBPP+라는 두 코딩 벤치마크를 사용한다. 원본 단위 테스트를 검증자로 삼고, 추가적인 숨은 테스트 세트를 정답 판정 기준으로 활용한다. 모델군은 Command‑Light, GPT‑4o, Llama‑3.1 등 다양한 규모와 아키텍처를 포함한다. 각 모델당 200~1,000개의 샘플을 생성하고, 검증자를 통과한 샘플 중 얼마나 많은가가 숨은 테스트를 통과하는지를 측정한다. 결과는 일관되게 약한 모델이 거짓 양성 비율이 높으며, 이 비율은 모델의 단일 샘플 정확도와 거의 선형적으로 역관계한다는 것을 보여준다. 특히 Figure 3에서 보듯이, GPT‑4o의 Pass@1이 약한 모델이 무한히 재샘플링해도 도달하지 못하는 상한선 위에 있다.

또한 비용‑편익 분석을 통해 거짓 양성에 부여되는 “비용” C와 정답에 대한 “이득” B의 비율(C/B)을 변동시켰을 때 최적 샘플 수 K가 급격히 감소함을 확인한다. C/B가 현실적인 수준(예: C/B ≈ 0.5)일 경우 K는 3~5 정도이며, 비용이 더 크면 K*는 0이 된다. 이는 무한히 샘플링해도 기대 효용이 감소한다는 강력한 실증적 증거다.

마지막으로 코드 품질 평가를 수행한다. 거짓 양성 솔루션은 네이밍 규칙, 라인 길이, 주석 포함 여부 등 스타일 메트릭에서 일관되게 낮은 점수를 받는다. 이는 단순히 기능적 오류를 넘어서, 검증자가 놓치는 비기능적 결함까지 확대한다는 점을 시사한다. 저자는 이러한 현상이 모델이 검증자의 약점을 학습해 버리는 “검증 착취” 현상으로 이어질 위험을 경고한다.

전반적으로 논문은 (1) 검증자의 거짓 양성 확률이 감소하지 않음으로써 재샘플링 기반 추론 스케일링에 근본적인 상한이 존재함, (2) 약한 모델일수록 이 상한이 더 낮아 강한 모델을 대체할 수 없음, (3) 최적 샘플 수는 매우 제한적이며 비용‑편익 관점에서 무한 샘플링이 비효율적임, (4) 거짓 양성은 코드 스타일 등 품질에도 부정적 영향을 미친다는 네 가지 주요 인사이트를 도출한다.