기계학습 기반 프로그램 영역 분류와 하드웨어 지원을 통한 민첩한 컴파일

초록

본 논문은 프로그램을 “쉽게 최적화 가능한(easy)” 영역과 “어려운(hard)” 영역으로 자동 분류하는 기계학습 모델을 설계하고, 이를 하드웨어에 하드와이어링하여 컴파일러가 영역별로 차등 최적화를 수행하도록 한다. 이를 통해 전체 컴파일 시간을 크게 줄이면서도 전체 프로그램에 대해 Aggressive 최적화를 적용했을 때와 동등한 실행 성능을 달성한다.

상세 분석

논문은 컴파일 시간과 최적화 품질 사이의 전통적인 트레이드오프를 해결하기 위해 두 단계의 혁신을 제안한다. 첫 번째는 함수 단위(또는 루프 단위)로 프로그램을 “easy”와 “hard”로 라벨링하는 기계학습 모델이다. 라벨링 기준은 동일 함수에 대해 -O1 수준의 기본 최적화와 -O3 수준의 Aggressive 최적화를 각각 적용했을 때의 실행 시간 차이로 정의한다. 실행 시간이 δ(예: 80 %) 이내이면 “easy”, 그보다 크게 차이 나면 “hard”로 분류한다. 이때 학습 데이터는 실제 코드와 Csmith와 같은 도구로 생성한 합성 코드를 모두 활용한다.

두 번째 혁신은 학습된 모델을 하드웨어에 직접 구현한다는 점이다. 논문은 가변형 아키텍처에 모델을 하드와이어링함으로써, 컴파일러가 소스 코드를 분석할 때 실시간으로 영역 라벨을 얻을 수 있게 한다. 이렇게 하면 컴파일러는 “easy” 영역에 대해서는 최소한의 최적화 패스를 적용하고, “hard” 영역에 대해서만 전체 Aggressive 패스를 적용한다. 결과적으로 전체 컴파일 파이프라인의 실행 시간이 크게 단축되면서도, 최적화가 필요한 핵심 부분은 충분히 최적화된다.

특징 설계 측면에서 논문은 루프 중심 특성을 강조한다. 루프 반복 횟수(loop_niters), 논리 연산 수, 산술 연산 수, 분기 수, 배열 및 스칼라 변수 수 등을 추출하고, 다중 루프가 존재할 경우 가중 합산(가중치는 루프 깊이)으로 하나의 특성 벡터로 압축한다. 비루프 코드에 대해서는 동일한 스칼라 특성을 별도로 수집한다. 이러한 특성은 정규화와 패딩을 통해 고정 차원의 입력으로 변환되어 Random Forest 모델에 입력된다. Random Forest를 선택한 이유는 과적합 방지를 위한 앙상블 효과와 결정 트리 기반의 해석 가능성 때문이다.

실험 설계는 두 가지 버전의 함수(F_basic, F_aggr)를 각각 실행해 라벨을 부여하고, 학습된 모델의 정확도를 검증한다. 또한 하드웨어 구현 비용, 전력 소모, 라벨링 지연 시간 등을 평가하여 실제 컴파일러 파이프라인에 통합 가능한지 확인한다. 논문은 기존 JIT 기반 핫 루프 탐지와 비교해 사전 예측 방식이 컴파일 타임을 선행적으로 절감하고, 런타임에 발생할 수 있는 “핫 루프 미탐지” 문제를 회피한다는 장점을 강조한다.

한계점으로는 특성 설계가 루프 중심에 치우쳐 있어 비루프 중심 최적화(예: 인라인, 메모리 레이아웃 변환)에는 적용 범위가 제한될 수 있다. 또한 Random Forest 외에 딥러닝 모델을 사용하면 더 복잡한 코드 패턴을 포착할 가능성이 있지만, 하드웨어 구현 비용이 급증한다는 트레이드오프가 존재한다. 향후 연구에서는 멀티레벨 라벨링(예: easy, medium, hard)과 동적 피드백 루프를 도입해 라벨 정확도를 지속적으로 개선하는 방안을 제시한다.

전반적으로 이 논문은 컴파일러 최적화 단계에서 머신러닝을 사전 예측 도구로 활용하고, 이를 하드웨어 가속화함으로써 컴파일 타임과 실행 성능을 동시에 최적화하는 실용적인 프레임워크를 제시한다.