함수형 프로그램을 위한 힙 참조 분석

초록

이 논문은 일급 함수와 엄격 평가를 사용하는 함수형 언어에서, 프로그램 변수와 객체 사이의 참조 관계를 정적 분석해 “앞으로 사용되지 않을” 힙 객체를 찾아낸다. 분석 결과를 기반으로 해당 참조를 null 로 바꾸는 변환을 수행하면, 가비지 컬렉터가 더 많은 객체를 회수할 수 있어 메모리 사용량과 컬렉션 시간 모두 감소한다. 핵심은 함수 정의를 호출 컨텍스트와 무관하게 요약하고, 호출 시점에 컨텍스트‑민감하게 적용하는 세 단계(liveness, sharing, accessibility) 분석이다.

상세 분석

논문은 기존 가비지 컬렉터가 “도달 가능성(reachability)”만을 기준으로 살아있는 객체를 판단함으로써 실제로는 더 이상 사용되지 않을 객체까지 살아 있게 만든다는 문제점을 지적한다. 이를 해결하기 위해 저자들은 정적 힙 참조 분석을 설계했으며, 분석 파이프라인은 크게 세 가지 서브분석으로 구성된다. 첫 번째인 liveness analysis는 각 프로그램 지점에서 변수와 힙 객체가 미래에 읽히는지를 판단한다. 여기서는 변수와 객체를 각각 “live” 혹은 “dead” 상태로 모델링하고, 함수 호출 시점에 아직 알려지지 않은 호출 컨텍스트를 하나의 메타 변수(𝜅)로 추상화한다. 함수 본문 내부에서 발생하는 변수 사용과 할당을 제약식으로 표현하고, 이 제약식을 해결함으로써 함수가 어떤 입력 컨텍스트에서도 어떤 변수들을 살아 있게 만드는지에 대한 요약을 얻는다.

두 번째 sharing analysis는 객체 간의 공유 관계를 파악한다. 함수 내부에서 두 변수 혹은 두 필드가 동일한 힙 객체를 가리키는 경우, 해당 객체는 하나의 참조가 사라져도 여전히 다른 경로를 통해 접근 가능하므로 “dead”로 판단되지 않는다. 공유 정보를 정밀하게 추적함으로써 불필요한 null 삽입을 방지하고, 실제로 회수 가능한 메모리만을 목표로 한다. 이 단계에서도 함수 요약은 컨텍스트‑독립적으로 생성되며, 공유 제약식은 그래프 기반의 포인트투 분석과 유사한 방식으로 해결된다.

세 번째 accessibility analysis는 객체가 실제로 프로그램 흐름에서 접근 가능한지를 검증한다. 여기서는 제어 흐름 그래프(CFG)와 데이터 흐름 정보를 결합해, 특정 지점에서 객체에 도달할 수 있는 모든 경로를 탐색한다. 만약 어떤 객체가 현재 지점 이후 어떤 경로에서도 도달되지 않는다면, 해당 객체에 대한 모든 참조를 null 로 만들 수 있다. 이 단계는 앞선 두 분석의 결과를 입력으로 받아, “live but unreachable” 상황을 정확히 포착한다.

핵심적인 설계 선택은 함수 요약의 컨텍스트 민감성이다. 기존의 컨텍스트 민감 분석은 함수마다 호출 컨텍스트별로 별도 분석을 수행해야 하는데, 이는 분석 비용을 급격히 증가시킨다. 저자들은 함수 정의를 하나의 메타 변수 𝜅에 대한 제약식 집합으로 표현함으로써, 함수 자체는 한 번만 분석하고, 호출 시점에 𝜅에 실제 인자 정보를 대입해 요약을 구체화한다. 이렇게 하면 함수 호출이 많아도 분석 비용은 거의 일정하게 유지된다. 또한, 제약식은 선형 방정식 형태이므로, 고정점 연산을 통해 효율적으로 해결될 수 있다.

실험 결과는 두 가지 측면에서 긍정적이다. 첫째, 변환 후 프로그램을 실행했을 때 가비지 컬렉션 횟수가 평균 1530% 감소했으며, 메모리 사용량도 유사하게 감소했다. 둘째, 스캐빈징 방식의 컬렉터에서는 살아 있는 객체를 스캔하는 비용이 감소해 전체 실행 시간이 512% 정도 단축되었다. 이는 특히 메모리 집약적인 함수형 프로그램에서 의미 있는 성능 향상으로 해석될 수 있다.

전체적으로 이 논문은 정적 분석과 런타임 가비지 컬렉션을 결합한 하이브리드 최적화 기법을 제시한다. 함수 요약을 통한 컨텍스트 민감성 확보, liveness‑sharing‑accessibility 삼중 분석 구조, 그리고 분석 결과를 코드 변환에 직접 활용하는 흐름은 향후 함수형 언어 컴파일러와 런타임 시스템 설계에 중요한 인사이트를 제공한다.