소형 언어 모델로 구현하는 실시간 게임 내러티브 생성: DefameLM 사례 연구

초록

본 논문은 대형 언어 모델(LLM)의 비용·연결성 문제를 극복하기 위해, 좁은 범위와 구조화된 과업에 특화된 소형 언어 모델(SLM)을 공격적으로 파인튜닝하는 프레임워크를 제안한다. 증명 개념으로 제시된 DefameLM은 중세 시장 포스터 형태의 선전문을 실시간으로 생성하며, 4‑16비트 양자화 모델 모두 5초 이내 응답과 LLM‑as‑judge 기반 성공률을 달성한다. 이를 통해 오프라인·저사양 환경에서도 동적 내러티브를 구현할 수 있음을 보인다.

상세 분석

이 논문은 게임 내러티브 생성에 LLM을 직접 적용했을 때 발생하는 ‘맥락 일관성 붕괴’와 ‘클라우드 의존 비용’이라는 두 가지 근본적 한계를 명확히 짚는다. 특히, 복잡한 세계관을 이해하고 추론해야 하는 텍스트 기반 어드벤처(Zork) 실험에서 ChatGPT‑4가 실패한 사례를 인용해, 대규모 모델이 ‘전역 상태’를 지속적으로 추적하기 어렵다는 점을 강조한다. 이러한 문제를 해결하기 위한 대안으로 저자들은 ‘에이전시(agentic) 네트워크’를 제시한다. 핵심 아이디어는 각 과업을 DAG(Directed Acyclic Graph) 형태로 분해하고, 각각을 매우 제한된 컨텍스트와 구조를 가진 SLM에 할당하는 것이다.

프레임워크의 설계 원칙은 ‘전문화(specialization)’와 ‘과잉 적합(over‑fitting)’이다. 좁은 도메인(예: 특정 NPC의 대사, 특정 상황의 퀘스트 트리거)마다 별도의 SLM을 파인튜닝함으로써, 데이터 다양성과 오버피팅 정도를 직접 제어한다. 이는 프롬프트 변화에 민감한 LLM과 달리, 파인튜닝된 파라미터 자체가 출력 스타일을 결정하므로 보다 예측 가능한 품질 제어가 가능하게 만든다.

데이터 생성 단계에서는 DAG 기반 자동 생성 파이프라인을 사용한다. 게임 세계의 메타데이터(팩션, 외모, 배경 스토리 등)와 ‘인텔리전스’(폭로 내용, 대상 청중, 풍자 각도)를 결합해 수천 개의 샘플을 ChatGPT‑4o로 생성하고, 이를 학습 데이터셋으로 활용한다. 이렇게 합성된 데이터는 실제 게임 세계와 일관된 ‘현실감’을 제공하면서도, 인간 라벨링 비용을 최소화한다.

DefameLM의 구현은 하나의 SLM만으로 전체 게임 루프를 담당한다는 점에서 흥미롭다. 입력은 캐릭터 메타데이터와 인텔리전스이며, 출력은 500자 이하의 선전 포스터 텍스트이다. 모델은 16‑bit, 8‑bit, 4‑bit 세 단계로 양자화했으며, ‘재시도‑성공(retry‑until‑success)’ 전략을 적용한다. 성공 판단은 별도 LLM‑as‑judge 체계가 수행하며, 실패 시 온도 파라미터 T=0.75로 샘플링 다양성을 높여 재시도한다. 실험 결과, 4‑bit 모델조차 평균 3.2초 내에 성공적인 텍스트를 생성했으며, 성공률은 92%에 달했다. 이는 실시간 게임 엔진(5초 제한) 내에서 충분히 활용 가능함을 입증한다.

한계점으로는 ‘로컬 품질 평가’ 부재와 ‘다중 에이전트 간 상호작용’이 있다. 현재는 외부 LLM을 평가자로 사용했지만, 게임 내에서 자체적인 품질 검증 메커니즘이 필요하다. 또한, 복잡한 퀘스트나 대화 트리와 같은 다중 서브태스크를 다루려면 여러 SLM을 조율하는 메타‑에이전시 레이어가 추가로 요구된다.

전반적으로 이 연구는 “작은 모델, 큰 효과”라는 패러다임을 실증적으로 제시한다. 비용·지연·프라이버시 측면에서 클라우드 LLM을 대체할 수 있는 실용적 로드맵을 제공하며, 향후 게임 AI 설계에서 모듈화된 SLM 에이전시가 표준이 될 가능성을 시사한다.