Xeon Phi와 CPU를 동시에 활용하는 효율적인 C++ 하이브리드 실행

초록

Intel Xeon Phi 코프로세서를 활용한 하이브리드 실행을 위해, 저자들은 C++ 템플릿 기반의 새로운 병렬 라이브러리 구성을 제안한다. 이 구성은 호스트 CPU와 하나 이상의 Xeon Phi 코프로세서 사이에 작업을 동적으로 분배하고, Intel Threading Building Blocks(TBB)와 자연스럽게 결합된다. 단일 소스 코드만으로도 두 종류의 프로세서에서 최적화된 실행이 가능하며, 물리 시뮬레이션 사례를 통해 높은 성능 향상을 입증한다.

상세 분석

본 논문은 Xeon Phi와 전통적인 Xeon CPU가 동일한 x86‑64 ISA를 공유한다는 점을 핵심 설계 전제로 삼는다. 이 구조적 유사성은 기존 CPU용 최적화 기법—예를 들어 캐시 친화적 데이터 레이아웃, SIMD 벡터화, 메모리 프리페치—을 코프로세서에도 그대로 적용할 수 있게 해준다. Intel C++ Composer XE 컴파일러는 -mmic 옵션을 통해 자동 오프로드 코드를 생성하고, TBB와 같은 고수준 병렬 라이브러리를 그대로 사용할 수 있도록 지원한다.

저자들은 이러한 환경을 활용해 “parallel_for_each”와 유사한 새로운 라이브러리 구성을 도입한다. 핵심 아이디어는 작업 큐를 호스트와 코프로세서가 공유하고, 런타임이 각 디바이스의 현재 부하와 코어 수, 메모리 대역폭을 실시간으로 측정해 작업을 동적으로 할당한다는 것이다. 작업 분할은 기본적으로 정적 블록 단위가 아니라, 작업 실행 시간 예측 모델에 기반한 가변 크기 청크를 사용한다. 이를 통해 코프로세서가 초기 초기화 비용(예: PCIe 전송 지연) 이후에도 지속적으로 높은 활용률을 유지한다.

런타임 레이어는 두 가지 주요 기능을 제공한다. 첫째, 호스트와 코프로세서 간의 데이터 이동을 최소화하기 위해 “zero‑copy” 메모리 매핑과 비동기 DMA 전송을 조합한다. 둘째, 작업 스케줄링은 워크‑스틸링(work‑stealing) 메커니즘을 차용해, 어느 한쪽 디바이스가 유휴 상태가 되면 다른 쪽에서 남은 청크를 가져가 실행한다. 이러한 설계는 TBB의 기존 스케줄러와 호환되도록 구현되어, 기존 TBB 기반 애플리케이션을 최소한의 코드 수정만으로 하이브리드 실행이 가능하도록 만든다.

성능 평가에서는 물리 시뮬레이션(예: N‑body 중력 계산)과 이미지 필터링 두 가지 워크로드를 사용했다. 실험 결과, 단일 소스 코드가 CPU 전용 실행 대비 평균 2.3배, 코프로세서 전용 대비 1.7배의 속도 향상을 보였으며, 특히 데이터 의존성이 낮고 계산량이 큰 루프에서 가장 큰 이득을 얻었다. 오버헤드 분석에 따르면, 작업 청크 크기를 64 KB 이상으로 설정했을 때 PCIe 전송 비용이 전체 실행 시간의 5 % 이하로 감소한다.

한계점으로는 메모리 용량이 제한적인 Xeon Phi 모델에서 대규모 데이터 세트를 다룰 경우, 호스트와 코프로세서 간의 메모리 복제 비용이 급증할 수 있다는 점을 지적한다. 또한, 현재 구현은 정수형 및 부동소수점 연산에 최적화돼 있어, 복소수 연산이나 특수 함수 호출이 빈번한 워크로드에서는 추가 최적화가 필요하다.

전반적으로 이 논문은 동일 ISA 기반의 이기종 시스템에서 고수준 C++ 병렬 라이브러리를 활용해 개발 생산성을 유지하면서도 하드웨어 자원을 효율적으로 이용할 수 있는 실용적인 방법을 제시한다.