언제든지 유효한 통계 워터마킹

초록

본 논문은 LLM 출력에 삽입되는 통계적 워터마크를 검출하기 위해, 앵커 분포를 활용한 e‑value 기반 프레임워크를 제안한다. e‑value와 테스트 슈퍼마르티니게를 이용해 임의의 시점에서 멈출 수 있는 anytime‑valid 검정을 구현함으로써, 기존 고정 길이 검정이 갖는 조기 중단 불가능 문제를 해결하고, 평균 토큰 사용량을 13~15% 감소시킨다.

상세 분석

이 논문은 두 가지 근본적인 한계를 동시에 해소하는 새로운 통계 워터마킹 체계를 제시한다. 첫 번째는 워터마크 삽입을 위한 샘플링 분포 선택에 대한 이론적 근거가 부족하다는 점이며, 두 번째는 검출 단계가 고정된 토큰 수(고정 horizon)에서만 유효하고, 데이터가 계속 흐르는 상황에서 임의로 중단하면 제1종 오류 보장이 깨진다는 점이다. 저자들은 이를 해결하기 위해 e‑value라는 개념을 도입한다. e‑value는 null 가설 하에서 기대값이 1 이하인 비음수 확률 변수이며, 슈퍼마르티니게(테스트 마르티니게) 형태로 구성될 경우 Ville’s inequality에 의해 언제든지 중단해도 제1종 오류가 α 수준 이하로 유지된다. 이는 전통적인 p‑value 기반 검정이 “p‑해킹”에 취약한 점을 근본적으로 극복한다.

핵심 아이디어는 ‘앵커 분포(p₀)’를 정의하고, 이를 목표 분포(q)와 δ‑근접(proximity) 관계에 두어 워터마크 생성과 검출이 동일한 사전 정보를 공유하도록 설계한다. 생성 단계에서는 앵커 분포를 기반으로 시드(seed)를 샘플링하고, 이를 토큰 선택에 편향을 주어 워터마크를 삽입한다. 검출 단계에서는 관측된 토큰과 복원된 시드 사이의 의존성을 측정하기 위해 e‑value를 계산한다. 저자들은 최악의 로그 성장률(log‑growth rate)을 최적화하는 e‑value를 도출하고, 이를 통해 기대 정지 시간(expected stopping time)이 log(1/α)/J* 로 표현되는 최적의 정지 규칙을 제시한다. 여기서 J*는 정리 1.1에서 제시된 식으로, 앵커 분포의 엔트로피 h와 견고성 파라미터 δ에 의해 결정된다.

이론적 분석 외에도, 논문은 실험을 통해 제안된 프레임워크가 기존 워터마크 검출 방법보다 토큰 사용량을 평균 13~15% 절감함을 입증한다. 특히 다양한 온도 설정(temperature)과 공격 시나리오(패러프레이징, 편집 등)에서도 높은 검출 파워와 낮은 제1종 오류를 유지한다는 점이 강조된다. 또한, 조기 중단이 가능해짐에 따라 공격자가 텍스트 후반부를 변조하더라도, 충분한 증거가 초기에 축적되면 바로 검출을 종료할 수 있어 워터마크의 내구성이 강화된다.

이 연구는 e‑value와 테스트 슈퍼마르티니게를 통계 워터마킹에 최초로 적용함으로써, 순차적(시계열) 검증이 가능한 ‘anytime‑valid’ 워터마크 체계를 제시한다는 점에서 학문적·실용적 의의가 크다. 향후 연구에서는 다중 워터마크 병합, 온라인 다중 검정, 그리고 다른 생성 모델(이미지, 오디오 등)으로의 확장 가능성도 기대된다.