데이터 없이 평가자 신뢰를 검증하는 알고리즘

초록

본 논문은 라벨이 전혀 없는 상황에서 평가자(예: LLM‑as‑judge)의 신뢰성을 검증하기 위한 ‘No‑Data Algorithm’을 제안한다. 평가자는 다중 라운드 챌린지를 통해 검증자에게 자신의 라벨링 지식을 증명해야 하며, r 라운드 후 평가자가 올바른 라벨을 알 확률이 ≥ 1 − (1/4)^r 로 보장된다. 이론적 증명과 실험을 통해 알고리즘의 정확성과 신뢰성 플래그 기능을 확인하고, 저자원 언어인 서프리안에 적용한 사례를 제시한다.

상세 분석

논문은 먼저 평가자 신뢰성 문제를 “라벨이 없는 상태에서 어떻게 평가자를 검증할 것인가”라는 질문으로 정의한다. 기존 방법은 (1) 라벨이 있는 기준 데이터에 대한 테스트와 (2) 평가자가 이미 정답을 안다고 가정하는 두 축에 의존한다. 그러나 라벨이 부족하거나 베치마크가 오염된 상황에서는 이 두 접근법이 모두 실패한다. 이를 극복하기 위해 저자는 ‘No‑Data Algorithm’을 고안했으며, 이는 암호학의 영지식증명(zero‑knowledge proof) 개념을 차용한 Evaluator‑Verifier (EV) 프로토콜을 핵심으로 한다. EV 프로토콜은 평가자가 주어진 입력 x에 대해 ‘유사한’ 입력 x′와 부분 라벨 ˜y′를 생성하도록 요구하고, 검증자는 두 가지 무작위 챌린지(구조적 동등성 검증과 평가값 동등성 검증)를 제시한다. 평가자가 두 챌린지를 모두 통과하려면 실제 라벨링 함수 f를 알고 있어야 하며, 그렇지 않을 경우 각 라운드마다 1/4의 확률로 적발된다. 따라서 r 라운드 후 적발 확률은 (1/4)^r이며, 이는 논문의 Lemma 5.1에서 수학적으로 증명된다.

알고리즘 자체는 EV 프로토콜의 성공 여부에 따라 라벨을 그대로 사용하거나 flip 확률 ϕ에 따라 반전시킨다. Theorem 5.2는 평가자의 기본 정확도 α와 라운드 수 r, flip 확률 ϕ를 결합해 전체 알고리즘의 기대 정확도를 상한식으로 제시한다. 이 식은 평가자가 높은 정확도와 높은 EV 성공률을 보일 경우, 라벨 플립에 의한 오차를 크게 억제하면서 실제 정확도가 크게 향상될 수 있음을 보여준다.

실험에서는 전통적인 결정 트리와 최신 LLM을 평가자로 사용해 EV 프로토콜을 적용했으며, 특히 저자원 언어인 서프리안 데이터셋에서 LLM‑as‑judge의 신뢰성을 평가했다. 결과는 라벨이 전혀 없는 상황에서도 알고리즘이 평가자를 효과적으로 구분하고, 라벨 플립 전략이 오탐을 최소화함을 입증한다. 또한, k‑ary 라벨 확장, 프롬프트 설계 변형, 챌린지 구성 요소 별 Ablation 연구를 통해 알고리즘의 견고함을 확인했다.

이 논문의 주요 기여는 (1) 라벨이 전혀 없는 환경에서도 평가자 신뢰성을 수학적으로 보장하는 프레임워크 제시, (2) 영지식증명과 유사한 두 단계 챌린지를 통해 평가자의 ‘지식’ 여부를 검증, (3) 이론적 경계와 실험적 검증을 동시에 제공함으로써 LLM‑as‑judge와 같은 현대 AI 평가 도구에 대한 실용적인 신뢰성 평가 방법을 제공한다는 점이다.