제로지식 기반 대규모 언어 모델 데이터셋 출처 검증 프레임워크

초록

ZKPROV는 LLM이 특정 인증된 데이터셋으로 학습되었음을, 모델 파라미터와 데이터 내용은 노출하지 않은 채로 증명하는 제로지식 프로토콜이다. 데이터·모델·응답을 암호학적으로 결합하고, HyperNova 기반의 재귀 zk‑SNARK와 KZG 커밋, BLS 서명을 활용해 증명 생성·검증을 서브선형으로 수행한다. 실험 결과 8 B 파라미터 모델에서도 전체 지연이 3.3 초 이하이며, 보안 증명은 데이터 기밀성과 출처 신뢰성을 형식적으로 보장한다.

상세 분석

ZKPROV는 기존의 세 가지 검증 범주(추론 검증, 학습 과정 검증, 데이터 검증)를 통합하면서도 데이터 자체를 공개하지 않는 새로운 접근법을 제시한다. 핵심 아이디어는 “바인딩 값(binding value)”을 도입해 사용자 질의‑응답 흐름과 학습 데이터·모델 파라미터를 하나의 암호학적 해시 체인에 연결하는 것이다. 이를 위해 저자들은 다음과 같은 암호 원시 요소들을 조합한다. 첫째, HyperNova zk‑SNARK를 이용해 각 트랜스포머 레이어의 연산을 R1CS 형태로 변환하고, 레이어별 증명을 재귀적으로 접어 하나의 압축 증명으로 만든다. HyperNova의 로그‑스케일 검증 복잡도는 레이어 수가 늘어나도 검증 비용이 거의 증가하지 않게 해준다. 둘째, KZG 다항식 커밋을 사용해 데이터셋 해시와 모델 파라미터 커밋을 생성한다. KZG는 특정 점에서의 평가값과 그 증명을 짧은 페어링 검증으로 확인할 수 있어, 데이터 멤버십 증명과 모델 파라미터 일관성 검증을 효율적으로 수행한다. 셋째, BLS 서명을 통해 각 데이터셋을 권한 기관이 사전에 서명하도록 하여, 데이터 출처의 법적 인증을 암호적으로 증명한다. BLS의 집계 서명 특성은 다수의 데이터셋을 하나의 검증 절차로 묶을 수 있게 해, 특히 의료기관처럼 다중 데이터 소스를 사용하는 경우에 통신·검증 오버헤드를 크게 감소시킨다.

프로토콜 흐름은 크게 네 단계로 나뉜다. (1) 데이터 제공자는 데이터셋 해시와 메타데이터를 KZG 커밋하고, 권한 기관의 BLS 서명을 부착한다. (2) 모델 개발자는 이러한 커밋을 포함한 초기 파라미터 커밋을 생성하고, 학습·미세조정 과정에서 파라미터 업데이트를 동일한 커밋 구조에 바인딩한다. (3) 사용자가 질의를 전송하면, 모델은 응답과 함께 해당 응답이 사용된 데이터셋 커밋, 파라미터 커밋, 그리고 질의‑응답 바인딩 값을 포함한 zk‑SNARK 증명을 반환한다. (4) 검증자는 BLS 서명과 KZG 커밋을 확인하고, HyperNova 증명을 검증함으로써 응답이 인증된 데이터셋에서 파생되었음을 제로지식으로 확인한다.

보안 분석에서는 데이터 기밀성, 파라미터 기밀성, 그리고 출처 무결성을 각각 정의하고, 제로지식성, 바인딩 강도, 그리고 전산적 사운드니스를 기반으로 정리한다. 특히, 데이터셋 커밋이 바인딩 값에 의해 질의와 연결되므로, 공격자가 임의의 데이터셋을 삽입하거나 기존 커밋을 재사용해 위조하는 것이 전산적으로 불가능함을 증명한다. 또한, 증명 생성·검증 과정이 서브선형이므로 대규모 모델에서도 실시간 검증이 가능함을 실험적으로 입증한다.

전반적으로 ZKPROV는 데이터 출처 검증을 위한 제로지식 증명 체계를 LLM에 적용함으로써, 규제 산업에서 요구하는 데이터 사용 투명성을 보장하면서도 개인정보와 모델 비밀을 보호하는 실용적인 솔루션을 제공한다.