빠른 속도보다 느린 속도: 약한 단일층 워터마크가 왜곡 없는 워터마크 앙상블을 개선한다

초록

본 논문은 기존 워터마크 앙상블이 각 층에서 강한 워터마크를 적용하면 토큰 분포의 엔트로피가 급격히 감소해 후속 층의 탐지 효율이 떨어진다는 문제를 지적한다. 엔트로피와 탐지 가능성 사이의 이론적 관계를 증명하고, 원본 분포와 워터마크된 분포를 λ 비율로 혼합하는 약한 단일층 워터마크 프레임워크를 제안한다. 실험 결과, 약한 워터마크가 엔트로피 손실을 억제해 다층 앙상블에서 탐지율과 강인성을 크게 향상시킴을 보여준다.

상세 분석

이 논문은 대형 언어 모델(LLM) 생성 텍스트의 출처를 식별하기 위한 왜곡 없는 워터마크 기술에 대한 근본적인 재고를 제시한다. 기존 연구는 단일층 워터마크의 강도를 최대화함으로써 탐지 신호를 강화하고, 이를 여러 층에 걸쳐 앙상블하는 방식으로 강인성을 높이고자 했다. 그러나 저자들은 강한 워터마크가 토큰 확률 분포의 엔트로피를 크게 감소시켜, 이후 층에서 적용되는 워터마크가 활용할 수 있는 불확실성이 줄어들어 탐지 효율이 급격히 저하된다는 ‘신호 감쇠’ 현상을 발견했다.

논문은 먼저 엔트로피와 탐지 가능성 사이의 정량적 관계를 이론적으로 증명한다. 엔트로피가 높을수록 녹색 리스트 비율(green‑list ratio)의 기대값이 커지고, 이는 z‑점수 기반 탐지 통계량을 크게 만든다. 정리 4.1과 4.2는 왜곡 없는 워터마크 연산이 평균적으로 엔트로피와 기대 녹색 비율을 감소시킨다는 것을 보여주며, 이는 다층 앙상블에서 누적적으로 악화된다.

이를 해결하기 위해 저자들은 ‘약한’ 워터마크 프레임워크를 제안한다. 기본 아이디어는 원본 모델 분포 (P_M)와 기존 워터마크 분포 (F(P_M, k))를 혼합 계수 (\lambda)로 선형 결합한 (F_\lambda = \lambda F + (1-\lambda)P_M)이다. (\lambda=1)이면 기존 강한 워터마크와 동일하고, (\lambda)를 감소시킬수록 분포 변형이 완화되어 엔트로피 손실이 억제된다. 정리 4.3은 이 혼합 연산이 여전히 왜곡 없는 특성을 유지함을 보이며, 정리 4.4는 엔트로피가 원래 워터마크보다 크게 유지된다는 것을 증명한다.

실험에서는 SynthID, ENS‑DiPmark, ENS‑MCMark 등 대표적인 왜곡 없는 워터마크 앙상블을 대상으로 다양한 (\lambda) 값을 적용하였다. 평가 지표는 매우 낮은 허위 양성률(0.1%, 0.01%, 0.001%)에서의 진양성률(TPR)과 p‑값의 중앙값이다. 결과는 약한 워터마크((\lambda<1))가 엔트로피 감소를 최소화하고, 다층 앙상블 전체에서 녹색 비율을 유지함으로써 탐지율을 크게 향상시킨다. 특히, 강한 워터마크가 30층까지 적용될 때 급격히 감소하던 탐지 신호가, (\lambda=0.4) 정도로 약화된 경우에는 거의 일정 수준을 유지한다. 이는 ‘강한 것이 항상 좋은’이라는 기존 설계 철학에 대한 명확한 반증이다.

또한, 논문은 엔트로피와 탐지 성능 사이의 상관관계를 다양한 모델과 데이터셋에 걸쳐 실증적으로 확인한다. 엔트로피가 높은 상황(예: 토큰 선택이 고르게 분포된 경우)에서는 약한 워터마크가 특히 효과적이며, 엔트로피가 이미 낮은 상황에서는 강한 워터마크가 오히려 탐지 신호를 급격히 억제한다는 점을 강조한다.

이러한 분석은 워터마크 설계 시 ‘단일층 강도’와 ‘다층 지속 가능성’ 사이의 트레이드오프를 명시적으로 고려해야 함을 시사한다. 저자들은 앞으로의 연구 방향으로 동적 (\lambda) 조정, 토큰 레벨의 엔트로피 추정, 그리고 다른 탐지 메커니즘(예: 베이지안 검정)과의 결합을 제안한다.

전반적으로 이 논문은 워터마크 앙상블의 근본적인 한계를 이론과 실험을 통해 명확히 규명하고, 약한 워터마크라는 간단하면서도 효과적인 해결책을 제시함으로써 LLM 콘텐츠 검증 분야에 중요한 전환점을 제공한다.