다중코어를 위한 효율적인 자원 무관 알고리즘

초록

본 논문은 전역 공유 메모리와 p개의 코어, 각 코어당 M 크기의 캐시를 갖는 멀티코어 환경에서, 블록 크기 B를 기준으로 한 계층적 균형 병렬(HBP) 계산 모델을 제안한다. 기존 캐시-무관 알고리즘을 기반으로 하면서 false sharing에 의한 블록 미스를 최소화하기 위한 gapping 기법과 제한된 접근 쓰기 기법을 도입한다. 새롭게 설계한 Priority Work Stealing(PWS) 스케줄러는 캐시나 블록 크기 정보를 사용하지 않고도 높은 병렬성을 유지하며, 순차적 캐시 복잡도와 동일한 수준의 캐시 미스를 보장한다. 스캔, 행렬 연산, FFT, 리스트 랭킹 등 다양한 알고리즘에 적용 가능함을 증명한다.

상세 분석

이 논문은 멀티코어 시스템에서 자원(캐시, 메모리 블록) 의존성을 최소화하면서도 높은 병렬성을 유지할 수 있는 새로운 알고리즘 설계 원칙을 제시한다. 핵심 개념인 Hierarchical Balanced Parallel(HBP) 계산은 전통적인 divide‑and‑conquer 구조에 계층적 균형 조건을 추가함으로써, 작업 트리의 깊이와 폭이 동시에 제한된다. 이러한 구조는 작업이 스틸될 때 서로 공유하는 메모리 블록 수를 O(1)로 제한하도록 설계되었으며, 이는 false sharing에 의한 추가 캐시 미스를 근본적으로 억제한다.

HBP 모델은 두 가지 중요한 속성을 갖는다. 첫째, 각 레벨에서 생성되는 서브태스크는 크기가 균등하게 분할되어, 작업 간 부하가 크게 차이 나지 않는다. 둘째, 작업이 접근하는 메모리 영역은 “limited‑access write” 특성을 만족한다. 즉, 동일한 블록에 대한 쓰기 연산이 제한된 횟수만 발생하도록 설계되어, 공유 스택에 대한 경쟁을 최소화한다. 이러한 특성은 동시성 제어 비용을 낮추고, 스케줄러가 작업을 자유롭게 이동시켜도 메모리 일관성 비용이 급증하지 않게 만든다.

false sharing을 완전히 없앨 수 없는 경우, 저자들은 “gapping” 기법을 도입한다. 이는 작업 간에 의도적으로 메모리 블록 사이에 빈 공간을 삽입해, 서로 다른 작업이 동일 블록을 동시에 수정하는 상황을 회피한다. gapping은 블록 크기 B와 캐시 라인 크기에 따라 적절히 조정되며, 전체 메모리 사용량 증가를 최소화하면서도 블록 공유를 O(1) 수준으로 낮춘다.

스케줄링 측면에서는 Priority Work Stealing(PWS) 스케줄러를 제안한다. PWS는 전통적인 work‑stealing과 달리, 작업에 우선순위를 부여하고, 높은 우선순위 작업이 먼저 스틸되도록 한다. 이때 우선순위는 작업 트리의 깊이와 작업 크기에 기반해 결정되며, 스케줄러는 프로세서 수 p만을 인식한다. 캐시나 블록 크기 정보를 전혀 사용하지 않음에도 불구하고, PWS는 “tall cache” 조건(M = Ω(B·p·log p)) 하에서 HBP 알고리즘들의 캐시 미스를 순차 알고리즘과 동일한 Θ(Q_seq) 수준으로 제한한다. 여기서 Q_seq는 전통적인 캐시‑무관 분석에서 얻어지는 순차적 캐시 미스 수이다.

구체적인 알고리즘 적용 사례로는 (1) 스캔 연산: O(n) 작업량과 O(log n) 깊이를 갖는 HBP 형태로 구현, (2) 행렬 곱셈: Strassen‑like 분할을 활용해 O(n^ω) 연산량을 유지하면서 블록 공유를 최소화, (3) FFT: Cooley‑Tukey 구조를 HBP로 재구성해 O(n log n) 복잡도와 O(log n) 스텝을 달성, (4) 리스트 랭킹: 기존 PRAM 알고리즘을 변형해 O(log n) 단계와 거의 최적에 가까운 캐시 미스 bound를 제공한다. 모든 사례에서 PWS는 작업이 스틸될 때마다 O(1) 블록만을 공유하도록 보장함으로써, false sharing에 의한 추가 비용을 무시할 수 있게 만든다.

이 논문의 주요 공헌은 세 가지로 요약할 수 있다. 첫째, HBP 모델을 통해 “자원 무관(resource‑oblivious)”이면서도 false sharing을 제어하는 설계 원칙을 제시했다. 둘째, gapping과 limited‑access write 기법을 결합해, 블록 공유를 이론적으로 O(1) 수준으로 제한하는 방법을 제공했다. 셋째, PWS 스케줄러를 통해 이러한 알고리즘을 실제 멀티코어 환경에 적용했을 때, 캐시와 메모리 블록에 대한 사전 지식 없이도 최적에 가까운 성능을 달성할 수 있음을 증명했다. 이러한 결과는 차세대 멀티코어 프로세서에서 캐시‑민감성을 최소화하면서도 높은 병렬성을 확보하고자 하는 시스템 설계자와 알고리즘 연구자에게 중요한 지침이 될 것이다.