계약 딥페이크 대형 언어 모델의 계약서 생성 가능성

초록

이 논문은 대형 언어 모델(LLM)이 계약서 텍스트를 자동으로 생성할 수는 있지만, 실제 거래 상황에 맞는 법적 효력과 실질적 적합성을 보장하지 못한다는 점을 강조한다. LLM은 통계적 단어 예측에 기반한 ‘표면적’ 계약 초안을 만들 수 있지만, 계약의 본질인 당사자 합의와 위험 배분을 이해하거나 합리적으로 설계하지 못한다. 따라서 LLM이 만든 ‘계약 딥페이크’는 형식은 갖추었으나 실질적 가치는 제한적이다.

상세 분석

본 논문은 LLM의 기술적 한계를 계약법의 핵심 요소와 교차시켜 면밀히 분석한다. 첫째, LLM은 대규모 텍스트 코퍼스를 기반으로 단어‑단어 확률을 학습하지만, ‘의미’를 내포한 세계 모델을 구축하지 못한다는 점을 강조한다. 이는 계약서가 단순히 문구의 조합이 아니라, 특정 거래 상황·당사자 의도·법적 규제와 맞물려야 함을 의미한다. 둘째, 논문은 ‘계약’과 ‘계약 문서’의 구분을 명확히 한다. 계약은 당사자 간의 합의이며, 문서는 그 합의를 외형화한 증거일 뿐이다. LLM이 생성하는 텍스트는 문서 형태는 갖추지만, 실제 합의 과정을 대체하지 못한다. 셋째, LLM이 생성한 초안은 흔히 ‘표면적 일관성’만을 보이며, 조항 간 상충, 관할법 적용 오류, 거래 특수성 반영 부족 등 구조적 결함을 내포한다. 이러한 결함은 인간 변호사의 검토·수정 없이는 실무에서 사용하기 어렵다. 넷째, 논문은 LLM이 ‘지식’이라 부를 수 있는 파라메트릭 지식과 ‘법 적용 능력’ 사이의 차이를 짚는다. 방대한 계약 데이터에 노출돼 패턴을 기억할 수는 있지만, 이를 실제 법리와 연결해 판단을 내리는 추론 능력은 결여돼 있다. 마지막으로, 논문은 LLM 활용이 비용·시간 절감 효과를 기대할 수는 있으나, 그 절감량이 전통적인 템플릿 맞춤화와 비교해 실질적으로 크지 않으며, 오히려 오류 수정에 드는 비용이 더 커질 위험을 제시한다. 전체적으로 논문은 LLM이 계약 초안을 ‘생성’할 수는 있지만, 계약의 실질적 효력·적합성을 보장하는 ‘생성’은 불가능하다고 결론짓는다.