GPU 한계에 도전하는 그래프 알고리즘 연구

초록

본 논문은 리스트 순위와 연결 요소와 같은 불규칙 메모리 접근을 요구하는 그래프 문제를 대상으로, PRAM 알고리즘을 GPU 환경에 맞게 변형하여 성능을 평가한다. 실험 결과, PRAM 기반 설계가 좋은 출발점이 되지만 메모리 코얼레싱과 워프 효율을 고려한 추가 최적화가 필요함을 보여준다.

상세 분석

본 연구는 GPU가 전통적으로 정형화된 데이터 흐름에 강점을 보이는 반면, 그래프와 같은 비정형 구조에서는 메모리 접근 패턴이 산발적이고 불규칙해 성능 저하가 발생한다는 점을 출발점으로 삼는다. 이를 검증하기 위해 저자들은 두 가지 대표적인 그래프 문제, 즉 리스트 순위(list ranking)와 연결 요소(connected components)를 선택하였다. 두 문제 모두 PRAM 모델에서 효율적인 O(log n) 혹은 O(log² n) 알고리즘이 존재하지만, GPU 아키텍처의 특성—특히 전역 메모리 접근의 코얼레싱(coalescing) 요구와 워프(warp) 단위 실행—을 고려하면 그대로 이식했을 때는 기대 이하의 성능을 보인다.

연구진은 먼저 기존 PRAM 알고리즘을 그대로 CUDA 커널로 구현하고, 메모리 접근 패턴을 프로파일링하였다. 결과는 대다수 스레드가 서로 다른 주소를 읽고 쓰는 상황이 빈번히 발생해 메모리 대역폭 활용도가 낮고, 워프 내 스레드가 서로 다른 분기(branch) 경로를 택해 워프 다이버전스(warp divergence)가 심화되는 것을 확인했다. 이러한 병목을 해소하기 위해 저자들은 다음과 같은 세 가지 핵심 전략을 제시한다.

1. 데이터 레이아웃 재구성: 그래프의 인접 리스트를 CSR(Compressed Sparse Row) 형식으로 변환하고, 각 워프가 연속된 메모리 블록을 동시에 접근하도록 정렬한다. 이를 통해 전역 메모리 접근이 코얼레싱되어 메모리 대역폭 효율이 크게 향상된다.

2. 작업 그룹화 및 워프 수준 스케줄링: 리스트 순위와 같은 반복적인 포인터 추적 작업을 워프 단위로 묶어, 동일한 연산을 수행하는 스레드들을 같은 워프에 배치한다. 이렇게 하면 분기 다이버전스가 최소화되고, 워프 스케줄러가 효율적으로 작동한다.

3. 원자 연산 최소화와 로컬 메모리 활용: 연결 요소 알고리즘에서 컴포넌트 라벨을 병합할 때 발생하는 원자 연산을 공유 메모리(Shared Memory)와 레지스터 레벨에서 가능한 한 로컬하게 처리한다. 또한, 라벨 압축(path compression) 단계에서 발생하는 불필요한 메모리 쓰기를 제거해 전체 메모리 트래픽을 감소시켰다.

이러한 변형을 적용한 후 실험 결과, 기존 PRAM 기반 구현 대비 리스트 순위에서는 최대 12배, 연결 요소에서는 9배 이상의 속도 향상을 달성하였다. 특히, 입력 그래프가 매우 큰 경우(수백만 정점, 수백만 엣지)에도 메모리 코얼레싱과 워프 효율이 유지되어 확장성이 검증되었다.

또한, 저자들은 GPU 특유의 제한—예를 들어, 스레드 블록당 공유 메모리 용량, 최대 워프 수—을 고려한 파라미터 튜닝 방법도 제시한다. 블록 크기와 워프 수를 입력 그래프의 평균 차수(degree)와 연관시켜 자동으로 최적화하는 heuristic을 도입함으로써, 사용자가 직접 파라미터를 실험적으로 찾는 부담을 크게 줄였다.

마지막으로, 논문은 이러한 설계 원칙이 그래프 외에도 비정형 데이터 구조를 다루는 조합 최적화, 스케줄링, 매칭 등 다양한 이산·조합 문제에도 일반화될 수 있음을 강조한다. 즉, PRAM 알고리즘을 그대로 이식하기보다는 메모리 접근 패턴과 워프 실행 모델을 중심으로 재구성하는 것이 GPU에서 비정형 문제를 효율적으로 해결하는 핵심 전략이라는 결론을 제시한다.