CPU와 GPU를 동시에 활용하는 하이브리드 컴퓨팅의 재조명

초록

본 논문은 CPU와 GPU를 결합한 하이브리드 컴퓨팅 모델을 제안하고, 13개의 다양한 워크로드에 대해 두 가지 플랫폼(고성능 i7‑980X + Tesla T10, 저가형 E7400 + GT520)에서 실험한다. 하이브리드 구현은 GPU 전용 대비 평균 29%~37%의 성능 향상을 보이며, 자원 활용도는 90% 수준으로 높은 효율성을 입증한다.

상세 분석

이 연구는 기존의 “CPU vs. GPU” 논쟁을 넘어, 이기종 시스템에서 어떻게 두 자원을 협업시킬 것인가에 초점을 맞춘다. 저자들은 먼저 하이브리드 컴퓨팅을 두 가지 설계 패턴, 즉 ‘Work Sharing’과 ‘Task Parallel’으로 구분한다. Work Sharing은 입력 데이터를 정적 혹은 동적으로 분할해 CPU와 GPU에 각각 최적화된 알고리즘을 할당하는 방식이며, Task Parallel은 의존 관계 그래프를 기반으로 작업을 스케줄링해 가장 긴 경로(critical path)를 최소화한다. 두 패턴 모두 데이터 전송 비용과 연산량 균형을 정밀히 조정해야 하며, 특히 PCI‑e 대역폭과 메모리 일관성 문제가 성능 병목으로 작용할 수 있음을 강조한다.

실험에 사용된 13개의 워크로드는 정렬, 히스토그램, 희소 행렬‑벡터·행렬 곱, 레이 캐스팅, 양방향 필터링, 컨볼루션, 몬테카를로 시뮬레이션, 리스트 랭킹, 연결 요소 탐색, Lattice Boltzmann Method, 이미지 디더링, 번들 조정 등으로 구성된다. 각 워크로드는 계산 집약도와 메모리 접근 패턴에 따라 CPU‑GPU 적합도가 달라지며, 저자들은 이를 근거로 하이브리드 설계 가이드라인을 도출한다. 예를 들어, 히스토그램처럼 원자 연산이 빈번히 발생하는 경우 GPU의 높은 스레드 병렬성을 활용하되, 원자 연산 오버헤드를 줄이기 위해 CPU에서 부분 집계를 수행하는 하이브리드 전략이 효과적이었다. 반면, 스파스 행렬‑벡터 곱처럼 메모리 불규칙성이 큰 작업은 CPU가 담당하는 것이 전송 비용을 감소시켜 전체 실행 시간을 단축시켰다.

두 플랫폼에 대한 성능 평가에서는 고성능 플랫폼(Hybrid‑High)에서 평균 29%의 속도 향상을, 저가형 플랫폼(Hybrid‑Low)에서는 평균 37%의 향상을 기록했다. 특히 저가형 시스템에서는 GPU와 CPU의 성능 격차가 작아, 작업을 적절히 분산시켰을 때 더 큰 상대적 이득을 얻을 수 있음을 보여준다. 자원 효율성 측면에서는 CPU와 GPU의 활용률을 합산해 90%에 달했으며, 이는 전통적인 CPU‑전용 혹은 GPU‑전용 실행 대비 에너지·전력 효율에서도 유리함을 의미한다.

또한 저자들은 하이브리드 접근이 모든 경우에 최적은 아니며, 데이터 전송 비용이 지배적인 워크로드(예: 대규모 메모리 복사)가 포함된 경우에는 오히려 오버헤드가 증가할 수 있음을 인정한다. 따라서 하이브리드 설계 시, 데이터 규모, 연산 강도, 메모리 접근 패턴을 정량적으로 모델링하고, 자동화된 스케줄러가 동적으로 작업을 할당하도록 하는 것이 향후 연구 과제로 제시된다.

전반적으로 이 논문은 CPU와 GPU가 서로 보완적인 역할을 수행할 수 있는 구체적인 설계 원칙과 실험적 근거를 제공함으로써, 이기종 시스템에서의 효율적인 자원 활용 방안을 제시한다.