컴파일러 결함 탐지를 위한 LLM 기반 특징 재조합 기법

초록

FeatureFuzz는 과거 버그 보고서에서 추출한 “특징”(semantic invariant)들을 자연어와 코드 증거 형태로 저장하고, 세 단계(추출‑합성‑구현) LLM 파이프라인을 통해 이들을 조합해 새로운 테스트 프로그램을 자동 생성한다. GCC와 LLVM에 72시간 동안 적용한 결과, 기존 퍼저 대비 2.78배 많은 충돌을 발견했으며 113개의 실제 버그를 보고, 그 중 97개가 공식 확인되었다.

상세 분석

본 논문은 컴파일러 버그가 주로 프로그램의 의미적 특성에 의해 유발된다는 근본적인 관찰에서 출발한다. 기존의 문법 기반 생성기, 변이 기반 퍼저, 그리고 LLM을 단순히 파인튜닝한 생성기들은 모두 구문에 초점을 맞추어 의미적 제약을 유지하기 어렵다. 특히 배열 인덱스와 같은 흐름‑민감한 제약(C1)이나, 여러 코드 조각 간의 암묵적 의존성(C2)을 동시에 만족시켜야 하는 복합 버그 상황을 재현하지 못한다.

FeatureFuzz는 이러한 한계를 해소하기 위해 Feature라는 새로운 추상화를 도입한다. Feature는 (1) 버그를 유발하는 고수준 자연어 설명과 (2) 해당 설명을 구현한 최소 코드 조각(증거)으로 구성된다. 이 두 요소는 서로 독립적이며, 동일한 의미를 다양한 구문으로 표현할 수 있게 해준다. 논문은 크게 네 가지 핵심 기여를 제시한다.

1. Feature 추출(ExtractionLLM): GCC Bugzilla와 커밋 히스토리 등에서 버그 트리거 프로그램과 보고서를 입력으로, 사전 학습된 LLM에 특수 프롬프트를 제공해 의미적 특징을 자동으로 추출한다. 이 과정에서 구문적 디테일은 배제하고, “배열 인덱스가 범위를 초과한다”, “조건문 내부에 goto가 존재한다”와 같은 논리적 불변식을 자연어로 정리한다.

2. Feature 그룹 합성(GroupLLM): 추출된 Feature 풀에서 무작위로 여러 Feature를 샘플링하고, 파인튜닝된 LLM이 이들을 논리적으로 연결할 “glue feature”를 생성한다. 여기서 LLM은 자연어 설명을 기반으로 변수명 매핑, 제어 흐름 연결, 데이터 흐름 일관성 등을 자동으로 조정한다. 결과적으로 서로 다른 버그 보고서에서 나온 Feature라도 의미적으로 일관된 하나의 프로그램으로 결합될 수 있다.

3. 프로그램 구현(InstanLLM): 합성된 Feature 그룹을 실제 C/C++ 코드로 변환한다. 이 단계에서는 구문적 정확성(컴파일 가능성)과 동시에 모든 Feature가 명시한 의미적 제약을 만족하도록 코드가 생성된다. LLM은 변수 스코프, 타입 선언, 초기화 등을 자동으로 삽입해, 인간이 수작업으로 작성해야 할 복잡한 제약을 대체한다.

4. 피드백 루프와 진화적 탐색: 실행 시 얻은 코드 커버리지를 기반으로, 새로운 커버리지를 만든 Feature 그룹과 그 구성 Feature에 보상을 부여한다. 보상이 높은 Feature는 풀에서 더 자주 샘플링되며, 이는 의미적 다양성을 유지하면서도 효과적인 버그 트리거를 지속적으로 탐색하게 만든다.

실험 결과는 설계의 타당성을 강력히 뒷받침한다. 24시간 동안 FeatureFuzz는 167개의 고유 충돌을 발견했으며, 이는 두 번째로 좋은 퍼저(MetaMut)의 2.78배에 해당한다. 72시간 전체 캠페인에서는 GCC와 LLVM에 총 113개의 버그를 보고했고, 그 중 97개가 공식적으로 확인되었다. 특히 39개는 중간·후단 최적화 단계에서 발생했으며, 46개는 실제 사용자 코드에서 나타날 수 있는 형태였다. 이는 Feature 기반 접근법이 기존 구문‑중심 퍼저가 놓치기 쉬운 깊은 의미적 경로까지 탐색할 수 있음을 보여준다.

또한 논문은 Semantic Collapse라는 개념을 명확히 정의한다. 이는 의미적 트리거가 구문 변형이나 모델 파라미터에 압축돼 버려 재현이 어려워지는 현상이다. FeatureFuzz는 자연어를 중간 표현으로 삼아 의미를 명시적으로 보존함으로써 이 문제를 근본적으로 해결한다.

한계점으로는 (1) Feature 추출 단계에서 LLM이 잘못된 혹은 과도하게 일반화된 Feature를 생성할 가능성, (2) Feature 풀의 품질이 초기 버그 데이터에 크게 의존한다는 점, (3) 현재 구현이 C/C++에 국한되어 있어 다른 언어에 적용하려면 추가적인 Feature 정의와 LLM 파인튜닝이 필요하다는 점을 언급한다. 향후 연구에서는 자동화된 Feature 검증, 다중 언어 지원, 그리고 정형 검증 기법과의 결합을 통해 이러한 한계를 보완할 수 있을 것으로 기대된다.

요약하면, 이 논문은 컴파일러 퍼징에 있어 의미 기반 재조합이라는 새로운 패러다임을 제시하고, LLM을 활용한 자동 Feature 추출·합성·구현 파이프라인을 구현함으로써 기존 퍼저 대비 현저히 높은 버그 탐지 효율을 달성했다. 이는 앞으로 컴파일러 보안·신뢰성 강화에 중요한 기술적 토대를 제공할 것이다.