GNU Octave 호출 그래프 프로파일러 설계와 구현

초록

본 논문은 GNU Octave 환경에서 함수 호출 관계를 시각화하고 상세 실행 시간을 제공하는 호출 그래프 프로파일러를 설계·구현한다. 평면형 프로파일러의 한계를 극복하고, 수치 연산 특성에 맞춘 저오버헤드 구현과 tic‑toc 기반 타이머와의 정량적 비교를 통해 유용성을 입증한다.

상세 분석

이 연구는 GNU Octave의 인터프리터 구조에 직접 삽입되는 콜백 메커니즘을 활용해 함수 진입·종료 시점을 포착한다. 기존의 flat profiler가 각 함수별 누적 시간만을 제공하는 반면, 호출 그래프 프로파일러는 호출 스택을 추적해 부모‑자식 관계와 호출 횟수를 동시에 기록한다. 이를 위해 Octave 내부의 ‘eval’ 루틴과 ‘builtin’ 함수 호출 경로에 후킹(hooking) 포인트를 두고, 각 호출 시점에 고유 ID와 타임스탬프를 부여한다. 데이터 구조는 해시 테이블 기반의 노드 맵과 연결 리스트 형태의 엣지 리스트로 구성되어, 동적 메모리 할당을 최소화하고 재귀 호출 시에도 정확히 구분한다.

프로파일러는 두 가지 모드—‘light’와 ‘full’—를 제공한다. light 모드에서는 호출 횟수와 총 실행 시간만을 수집해 오버헤드를 2~3 % 수준으로 억제하고, full 모드에서는 각 호출 구간별 시작·종료 시각을 기록해 상세 호출 트리를 만든다. 구현 시 C++로 작성된 Octave core와의 바이너리 호환성을 유지하기 위해 외부 플러그인 형태로 제공되며, Octave 스크립트 레벨에서 profile_start, profile_stop, profile_report와 같은 간단한 인터페이스를 제공한다.

벤치마크에서는 행렬 곱셈, FFT, 선형 회귀 등 대표적인 수치 연산 프로그램을 대상으로 tic‑toc 기반 수동 타이머와 비교했다. 결과는 flat profiler가 평균 4 %의 오버헤드인 반면, 호출 그래프 프로파일러는 light 모드에서 2.5 % 이하, full 모드에서도 5 % 미만의 오버헤드를 보이며, 특히 재귀적 함수 호출이 많은 경우 호출 관계를 시각화함으로써 병목 구간을 직관적으로 파악할 수 있음을 증명한다.

또한, 프로파일러가 수집한 메타데이터는 JSON 형식으로 내보낼 수 있어 외부 시각화 도구와 연동이 가능하고, 향후 Octave 전용 GUI 기반 프로파일링 툴 개발의 기반이 된다. 제한점으로는 현재 C++ 확장 함수에 대한 호출 추적이 미지원이며, 멀티스레드 환경에서의 동기화 비용이 추가될 수 있다는 점을 언급한다. 향후 작업으로는 멀티코어 지원, 사용자 정의 이벤트 삽입, 그리고 머신러닝 기반 자동 최적화 제안 기능을 계획하고 있다.