SWIFT: 100 000코어 이상에서 강력한 스케일링을 구현하는 작업 기반 병렬화와 비동기 통신, 그래프 분할 기법

초록

SWIFT는 입자 기반 유체역학(SPH) 시뮬레이션을 위해 설계된 오픈소스 코드로, 작업 기반(shared‑memory) 병렬화, 작업 그래프를 이용한 도메인 분할, 그리고 통신을 작업으로 모델링한 완전 비동기 MPI 통신을 결합한다. 이 설계 덕분에 x86 및 Power8 클러스터에서 5 × 10⁴‑1 × 10⁵ 코어 규모까지 60 % 이상의 강력한 스케일링 효율을 달성한다.

상세 분석

본 논문은 현대 슈퍼컴퓨터에서 요구되는 ‘강력한 스케일링(strong scaling)’을 달성하기 위한 세 가지 핵심 기술을 상세히 제시한다. 첫 번째는 작업 기반(task‑based) 병렬화이다. 전통적인 OpenMP+MPI 방식은 단계별 동기화(barrier)와 정적인 워크로드 분배에 의존해 코어 수가 늘어날수록 로드 불균형과 대기 시간이 급증한다. SWIFT는 작업을 미세 단위(수 밀리초 수준)로 분할하고, 의존성 그래프와 충돌(conflict) 정보를 명시적으로 스케줄러에 제공한다. 스케줄러는 준비된 작업을 언제든지 자유롭게 할당받아 실행하므로, 런타임에 동적으로 로드 밸런싱이 이루어진다. 또한 각 작업은 자신이 독점적으로 접근하는 데이터 집합을 미리 정의하므로 캐시 친화성이 높고, 잠금(lock)이나 원자 연산이 거의 필요 없어진다.

두 번째는 작업 그래프 기반 도메인 분할이다. 전통적인 파티션은 입자 수나 공간적 위치에 기반해 데이터를 균등하게 나누지만, 실제 연산량은 입자 밀도와 이웃 탐색 복잡도에 따라 크게 달라진다. SWIFT는 셀(cell) 단위의 하이퍼그래프를 구성한다. 노드는 셀, 엣지는 셀 간 상호작용 작업을 나타내며, 각 엣지는 예상 연산 비용(입자 수·작업 종류)으로 가중된다. METIS와 같은 그래프 파티셔너를 이용해 ‘최대 파티션 비용’을 최소화하도록 분할하면, 각 MPI 랭크가 담당하는 연산량이 균등해진다. 이 방식은 데이터 양이 아니라 연산량을 기준으로 파티션을 수행하므로, 입자 밀도가 비균일한 우주 시뮬레이션에서도 효율적인 워크로드 배분이 가능하다.

세 번째는 완전 비동기 통신 모델이다. 작업 기반 스케줄링에서 통신도 하나의 작업으로 취급한다. 예를 들어, 셀 A에 속한 입자 데이터가 셀 B가 속한 다른 랭크에서 필요하면, ‘send‑task’와 ‘recv‑task’가 그래프에 삽입되고, 해당 작업이 준비될 때마다 즉시 실행된다. 따라서 전통적인 “모두가 통신을 마칠 때까지 대기”하는 단계가 사라지고, 통신과 계산이 자연스럽게 겹쳐진다. 이는 특히 네트워크 지연이 큰 대규모 클러스터에서 통신 대기 시간을 크게 감소시킨다.

구현 측면에서 저자들은 기존의 트리 기반 이웃 탐색(k‑d 트리, 옥트리)을 포기하고, 셀 그리드 위에 작업을 정의한다. 셀 크기는 가장 큰 스무딩 길이보다 크도록 설정하고, 셀당 약 100개의 입자를 목표로 한다. 셀을 재귀적으로 분할하면서 작업 수를 조절해 작업 크기를 균일하게 만든다. 이렇게 하면 작업 간 의존성이 명확히 정의되고, 캐시 라인 활용도가 높아져 메모리 대역폭 효율이 향상된다.

실험 결과는 두 가지 아키텍처(x86 기반 Intel Xeon 및 IBM Power8)에서 512배 코어 확대 시 60 % 이상의 병렬 효율을 보였다. 특히 10⁵ 코어 규모의 Top100 슈퍼컴퓨터에서도 강력한 스케일링을 유지했으며, 이는 기존 SPH 코드들이 수십 배 코어에서 급격히 효율이 떨어지는 것과 대조적이다. 또한 작업 기반 파티셔닝이 데이터 기반 파티셔닝에 비해 통신량을 크게 줄이는 효과도 확인되었다.

이 논문은 작업 기반 병렬화와 그래프 파티셔닝, 비동기 통신을 결합한 설계가 물리 시뮬레이션뿐 아니라 다른 데이터‑의존성 높은 과학·공학 애플리케이션에도 일반화될 수 있음을 시사한다. 특히, 기존 코드베이스를 전면 재작성하기 어려운 경우에도, 작업 그래프를 추출하고 METIS와 같은 파티셔너를 적용함으로써 ‘연산량 기반’ 로드 밸런싱을 도입할 수 있다.