DiffuTester 구조패턴 기반 Diffusion LLM 단위테스트 자동생성 가속기

초록

DiffuTester는 Diffusion 기반 대형 언어 모델(dLLM)로 단위 테스트를 생성할 때, 동일 메서드에 대해 여러 테스트가 공유하는 AST 구조패턴을 실시간으로 추출·활용해 토큰 디코딩을 확대함으로써 2‑3배 빠른 속도를 달성한다. 리터럴 토큰은 제외해 다양성을 유지하고, 일정 단계마다만 패턴 기반 디코딩을 적용해 오버헤드를 최소화한다. Python, C++, Java 3개 언어와 DiffuCoder·Dream 두 모델에 대한 실험에서 테스트 커버리지는 유지하면서 연산 비용과 시간 모두 크게 감소하였다.

상세 분석

Diffusion LLM은 한 번의 전방패스에서 여러 토큰을 동시에 예측할 수 있다는 이론적 장점을 가지고 있지만, 실제 UTG(Unit Test Generation) 작업에서는 토큰 수를 늘릴수록 구문 오류와 논리적 부정확성이 급격히 증가한다는 문제가 보고된다. 이 논문은 이러한 트레이드오프를 해소하기 위해 “구조 패턴 기반 디코딩”이라는 새로운 접근법을 제안한다. 핵심 아이디어는 동일 메서드에 대한 여러 테스트 케이스가 AST 수준에서 높은 구조적 유사성을 보인다는 관찰이다. DiffuTester는 배치 크기 n(예: 3~7)으로 dLLM에 동일 메서드에 대한 n개의 테스트를 동시에 생성하도록 프롬프트하고, 각 디코딩 스텝 t에서 모델이