클러스터 연산을 위한 BSF 스켈레톤 기반 반복 수치 알고리즘 병렬화 템플릿

초록

본 논문은 마스터‑슬레이브 구조의 BSF 모델을 기반으로, MPI와 OpenMP를 활용한 C++용 BSF 스켈레톤을 제시한다. 스켈레톤은 리스트 형태의 데이터 표현과 자동 스케줄링을 통해 반복적인 고복잡도 수치 알고리즘의 병렬화를 손쉽게 구현하도록 설계되었으며, 구현 전 확장성 예측이 가능하도록 수학적 모델을 제공한다.

상세 요약

BSF( Bulk Synchronous Farm) 모델은 전통적인 BSP와 파밍(farming) 기법을 결합하여 마스터가 작업 리스트를 슬레이브에게 분배하고, 슬레이브는 독립적으로 연산을 수행한 뒤 결과를 집계하는 구조를 갖는다. 이 모델의 핵심은 작업을 ‘리스트’ 형태로 추상화함으로써 데이터 의존성을 최소화하고, 각 슬레이브가 동일한 연산 코어를 재사용하도록 하는 점이다. 논문은 이러한 추상화를 기반으로 BSF‑skeleton을 설계했으며, C++ 템플릿과 MPI 통신 레이어를 캡슐화하여 사용자가 순수히 순차적 알고리즘만 구현하면 자동으로 병렬화가 이루어지도록 한다.

스켈레톤은 세 가지 주요 기능을 제공한다. 첫째, 마스터‑슬레이브 간의 초기화, 작업 분배, 결과 수집, 종료 절차를 모두 내부적으로 구현해 개발자가 통신 코드를 직접 작성할 필요가 없게 한다. 둘째, 작업 리스트의 크기와 슬레이브 수에 대한 수학적 모델을 통해 이론적 스케일링 한계를 사전에 계산할 수 있다. 이 모델은 전체 연산량 W, 통신 오버헤드 C, 동기화 비용 S 등을 변수로 두고, 효율 E = W/(W + C + S) 형태의 식을 제시한다. 셋째, OpenMP와의 연동을 지원해 각 슬레이브 내부에서도 다중 스레드 병렬화를 적용할 수 있다. 이는 다코어 노드에서의 하이브리드 MPI‑OpenMP 구성을 가능하게 하여, 클러스터 전체의 자원 활용도를 극대화한다.

또한, 스켈레톤은 컴파일 단계에서 타입 검증과 인터페이스 일관성을 검사함으로써 ‘오류 없는 컴파일’이라는 목표를 달성한다. 템플릿 메타프로그래밍을 활용해 사용자 정의 연산 함수가 요구하는 시그니처와 데이터 구조를 정적 분석하고, 불일치 시 컴파일 타임에 명확한 오류 메시지를 제공한다. 이는 전통적인 MPI 프로그램에서 흔히 발생하는 런타임 오류를 크게 감소시킨다.

성능 평가에서는 대표적인 반복 수치 알고리즘인 행렬‑벡터 곱, 수치 해석용 가우스‑시델 반복, 그리고 대규모 유한 차분 시뮬레이션을 대상으로 실험하였다. 실험 결과, 슬레이브 수를 2배 증가시킬 때 이론적 효율과 근접한 선형 확장성을 보였으며, OpenMP를 병행 적용했을 때 노드당 코어 활용률이 85 % 이상 유지되는 것을 확인했다. 특히, 작업 리스트가 균등하게 분할될 경우 통신 오버헤드가 전체 실행 시간의 5 % 이하로 억제되는 점이 주목할 만하다.

한계점으로는 작업 리스트가 불균형하게 분포될 경우 마스터의 스케줄링 병목이 발생할 수 있다는 점과, 현재 스켈레톤이 제공하는 데이터 구조가 1차원 리스트에 최적화돼 있어 다차원 텐서나 그래프 기반 연산에 대한 직접 지원이 부족하다는 점을 언급한다. 향후 연구에서는 동적 작업 재분배와 비정형 데이터 구조 지원을 위한 확장 모듈을 개발하고, 자동 튜닝을 통해 통신‑연산 비율에 따라 최적의 슬레이브 수를 선택하는 메커니즘을 도입할 계획이다.