가시성 기반 가비지 컬렉터의 한계와 불가피한 병목 현상

초록

본 논문은 현실적인 변이자‑관찰자 인터페이스를 구현할 수 있는 모든 가비지 컬렉터가, 힙에 사이클이 존재하고 메모리 한계에 근접할 때 반드시 “긴 멈춤 시간” 또는 “초과 수집 지연” 중 하나를 초래하는 병렬적인 병목을 피할 수 없음을 수학적으로 증명한다. 이를 위해 동적 그래프 도달 가능성 문제와의 정규화를 이용한 하한을 제시하고, 실제 메모리 제한 상황에서 발생하는 GC thrashing 사례와 레퍼런스 카운팅의 사이클 처리 한계도 논의한다.

상세 분석

이 논문은 먼저 대부분의 비이동형 가비지 컬렉터가 따르는 변이자‑관찰자(GCDS) 인터페이스를 형식화한다. 변이자는 포인터 업데이트 스트림을 제공하고, 관찰자는 도달 불가능해진 메모리 영역을 자유 리스트에 삽입해야 한다. 핵심 성능 지표는 (1) 정적 멈춤 시간 – 각 명령어가 겪는 최대 지연, (2) 수집 지연 – 영역이 도달 불가능해진 뒤 자유 리스트에 들어가기까지 필요한 프로그램 연산 수이다.

논문은 동적 그래프 도달 가능성 문제의 알려진 하한을 가비지 컬렉션에 그대로 옮겨온다. 힙을 정점, 포인터를 간선으로 보는 동적 그래프에서, 한 정점을 삭제(또는 연결을 끊는) 연산 후 그 정점이 다른 정점으로부터 도달 불가능해졌는지를 판단하는 데는 최소 Ω(log n) 혹은 Ω(n) 의 시간이 필요하다는 기존 결과를 이용한다. 변이자‑관찰자 모델에서는 관찰자가 이 판단을 실시간으로 수행해야 하므로, 수집 지연을 O(1) 로 유지하려면 매 연산마다 그래프 전체를 탐색해야 하며, 이는 멈춤 시간을 Ω(n) 로 폭발시킨다. 반대로 멈춤 시간을 상수로 제한하면, 최소 Ω(log n) 이상의 수집 지연을 감수해야 함을 정리 4.5(코릴러리)에서 증명한다.

또한 사이클을 포함한 힙에서 레퍼런스 카운팅을 확장하려면 “사이클 탐지” 단계가 필요하고, 이 단계 역시 동적 그래프의 연결성 검사와 동등한 복잡도를 갖는다. 따라서 사이클을 정확히 회수하면서도 상수 멈춤·상수 지연을 동시에 만족하는 알고리즘은 존재하지 않는다(섹션 5).

실제 시스템에서 나타나는 문제를 보여주기 위해, 메모리 제한에 근접한 상황에서 큰 버퍼를 반복적으로 할당·해제하는 Lua 예제를 제시한다. 이 프로그램은 변이자가 하나의 영역을 해제하고 바로 새로운 할당을 요청할 때, 컬렉터가 아직 회수하지 않은 영역 때문에 할당이 차단되고 전체 힙을 스캔하는 “GC thrashing” 현상이 발생한다. 실험 결과는 멈춤 시간이 선형적으로 증가해 실행 시간이 70배 이상 늘어나는 것을 확인한다.

마지막으로 논문은 acyclic 힙에 한정된 경우, 동적 트리 구조를 이용해 O(1) 수집 지연과 O(log n) 멈춤 시간을 달성하는 새로운 컬렉터 설계를 제시한다(섹션 7). 그러나 이 알고리즘은 사이클이 존재하면 과도한 오버헤드가 발생하고, 실제 워크로드에서는 기존 세대별 컬렉터보다 열등하므로 일반적인 사용에는 권장되지 않는다.

요약하면, 변이자‑관찰자 인터페이스를 따르는 모든 가비지 컬렉터는 메모리 한계와 사이클이 결합된 최악의 경우에 “긴 멈춤” 혹은 “긴 지연” 중 하나를 피할 수 없으며, 이는 그래프 이론의 하한과 동등하게 강력한 불가능성 결과임을 수학적으로 확립한다.