공유 메모리 파이프라인 파라렐 구현과 성능 비교

초록

본 논문은 Parareal 시간 병렬화 기법에 파이프라이닝을 적용한 OpenMP 구현을 제시하고, 전통적인 MPI 기반 구현과 런타임, 메모리 사용량, 에너지 소비 측면에서 비교한다. 두 구현은 거의 동일한 실행 시간을 보였으며, 컴파일러에 따라 OpenMP 버전이 약 7 % 적은 에너지와 더 작은 메모리 발자국을 기록한다. 다만 OpenMP 구현은 락 관리와 순차 구간 제어 등으로 코드 복잡도가 증가해 레거시 코드와 공간 병렬화와의 결합에 어려움이 있다.

상세 분석

Parareal은 미세 적분기 F와 거친 적분기 G를 교차 사용해 시간 구간을 병렬화하는 대표적인 시간‑병렬 알고리즘이다. 기본 Parareal은 각 시간 슬라이스마다 거친 전파 G를 순차적으로 수행하고, 그 뒤에 미세 전파 F를 병렬로 실행한다. 이때 거친 전파 단계가 직렬 구간으로 남아 전체 가속도에 병목을 만든다. 논문은 이 병목을 해소하기 위해 파이프라이닝을 도입한다. 파이프라인에서는 앞선 슬라이스가 거친 전파를 마치는 즉시 뒤쪽 슬라이스가 미세 전파를 시작하도록 하여, 거친 전파 c_c의 비용을 거의 숨긴다. 이 아이디어는 MPI 환경에서는 자연스럽게 구현되지만, OpenMP의 단순 parallel for 구조에서는 암묵적 동기화가 발생해 파이프라인 효과가 사라진다.

저자는 OpenMP 1.0 표준에 포함된 parallel, do, ordered, lock 지시자를 조합해 파이프라인을 명시적으로 구현한다. 구체적으로 각 스레드는 omp init lock 으로 자신에게 할당된 슬라이스에 대한 쓰기 잠금을 생성하고, 미세 전파 F를 수행하기 전 omp set lock 으로 해당 버퍼를 보호한다. 미세 전파가 끝나면 omp unset lock 으로 해제하고, 이어서 ordered 구문 안에서 거친 전파 G와 교정 δq 를 계산한다. 교정 단계 역시 다음 슬라이스가 미세 전파를 시작하기 전에 omp set lock(p+1) 으로 버퍼를 잠그고, 계산이 끝나면 해제한다. 이러한 락 기반 동기화는 데이터 경쟁을 방지하면서도 파이프라인 흐름을 유지한다.

성능 모델식(3)과 파이프라인 적용 후 식(4)을 통해 이론적 가속도 향상을 정량화한다. 파이프라인은 c_c 비용을 P·c_c 에서 c_c 로 감소시키지만, 초기 예측 단계는 여전히 P·c_c 가 필요하다. 따라서 K (반복 횟수)와 P (코어 수)의 비율이 작을 때, 즉 K ≫ P 인 경우에만 가시적인 가속도가 기대된다. 실제 실험에서는 P=24, K=4 조건에서 이론적 한계에 근접하지 못했지만, MPI와 OpenMP 간 차이는 미미했다.

에너지 측면에서는 OpenMP 구현이 메모리 접근을 공유 메모리 영역에서 수행하므로, MPI가 요구하는 메시지 버퍼 할당과 복사 비용이 사라진다. 실험 결과, Cray 컴파일러와 GCC 컴파일러 모두에서 OpenMP 버전이 평균 6‑8 % 정도 적은 전력을 소비했다. 메모리 발자국 역시 OpenMP가 별도의 MPI MPI_COMM_WORLD 버퍼를 유지하지 않기 때문에 약 30 % 정도 작았다.

하지만 구현 복잡도는 크게 증가한다. 락 초기화·해제, ordered 구문, nowait 절차 등은 코드 가독성을 떨어뜨리고, 디버깅 난이도를 높인다. 특히 기존 레거시 코드에 OpenMP 파이프라인을 삽입하려면 데이터 구조와 루프 구조를 재설계해야 하며, 공간 병렬화(예: 도메인 분할)와 동시에 사용하려면 nested parallelism 또는 task 기능을 추가로 고려해야 한다. 현재 구현은 고정 K 반복을 전제로 하며, 수렴이 빨라진 슬라이스를 자동으로 아이들 상태로 전환하는 적응형 제어 로직은 부재한다. 따라서 대규모 시뮬레이션에서 슬라이스 별 수렴 차이가 클 경우 효율이 떨어질 가능성이 있다.

요약하면, OpenMP 기반 파이프라인 Parareal은 동일한 실행 시간을 유지하면서 메모리와 에너지 효율을 개선하지만, 코드 복잡성 및 확장성 측면에서 MPI 기반 구현보다 불리하다. 향후 연구에서는 OpenMP task 기반 비동기 파이프라인, 동적 반복 제어, 그리고 공간‑시간 혼합 병렬화와의 통합을 통해 실용성을 높이는 방향이 필요하다.