LLM 워터마크 통합 프레임워크

초록

본 논문은 대형 언어 모델(LLM) 텍스트에 삽입되는 워터마크를 하나의 제약 최적화 문제로 통합한다. 기존의 다양한 워터마크 알고리즘을 동일한 수학적 틀에서 유도하고, 품질·다양성·검출력 사이의 근본적인 트레이드오프를 명시한다. 또한 퍼플렉시티와 같은 품질 지표를 제약으로 사용해 새로운 최적 워터마크를 설계하고, 실험을 통해 제안한 프레임워크가 각 제약 하에서 검출력을 최대화함을 입증한다.

상세 분석

논문은 LLM 워터마크 설계 문제를 “다음 토큰 확률 분포 p 를 변형해 검출 가능한 신호 q(g)를 만들되, 변형 정도를 제한한다”는 형태의 제약 최적화 문제로 정의한다. 여기서 g는 해시 메커니즘을 통해 얻은 토큰별 의사난수 점수이며, q(g)는 점수에 따라 조정된 워터마크 확률 분포이다. 목표 함수는 E_g