멀티코어 환경을 위한 완전 경험적 자동 튜닝 QR 분해

초록

본 논문은 현대 멀티코어 시스템에서 PLASMA 라이브러리의 밀집 QR 분해를 최적화하기 위해 모델 기반 접근이 한계가 있음을 지적하고, 설치 시 자동으로 수행되는 완전 경험적 튜닝 프레임워크를 제안한다. 제한된 탐색 공간을 효과적으로 줄이는 세 가지 경험적 규칙과 “prune‑as‑you‑go”(PAYG) 전략을 결합해 5개의 플랫폼에서 110분 내에 최적에 97100%에 해당하는 성능을 달성한다.

상세 분석

이 논문은 멀티코어 아키텍처에서 밀집 QR 분해의 성능을 좌우하는 두 개의 주요 튜닝 파라미터, 타일 크기(NB)와 내부 블록 크기(IB)를 중심으로 분석한다. NB는 작업 병렬성을 높이는 반면, 직렬 커널의 효율성을 저하시킬 수 있는 트레이드오프를 내포한다. 반면 IB는 메모리 접근 패턴과 연산량 사이의 균형을 맞추는데, IB가 NB와 동일하면 약 25%의 추가 연산이 발생한다. 저자들은 이러한 복합적인 상호작용을 수학적 모델로 정확히 예측하기 어렵다고 판단하고, 대신 실험적으로 도출된 세 가지 강력한 경험 법칙을 제시한다. 첫 번째는 “작은 행렬에서는 작은 NB가 최적”이라는 규칙으로, 코어 수 대비 작업량을 충분히 확보하기 위해 타일을 작게 나눈다. 두 번째는 “큰 행렬에서는 코어 수에 비례하는 NB가 최적”이라는 규칙으로, 캐시 친화성을 유지하면서도 충분한 병렬성을 확보한다. 세 번째는 “IB는 NB의 1/4~1/2 사이가 일반적으로 최적”이라는 경험적 범위이다. 이러한 규칙을 기반으로 후보 NB‑IB 조합을 사전 선택(Pre‑Select, PS)하고, 실제 QR 분해 실행을 통해 성능을 측정한다. 여기서 도입된 PAYG 기법은 실행 중에 성능이 현저히 떨어지는 조합을 즉시 제외함으로써 탐색 공간을 동적으로 축소한다. 실험 결과, 7개의 서로 다른 하드웨어(Intel Tigerton 16코어, IBM Power6 32코어 등) 중 5개에서 전체 튜닝 시간이 1분에서 10분 사이에 머물렀으며, 최적 성능 대비 평균 97%~100%의 효율을 달성했다. 특히, 기존의 수동 튜닝 방식이 수일에 걸려야 했던 작업을 자동화함으로써 PLASMA 라이브러리의 배포와 유지보수가 크게 간소화된다. 논문은 또한 모델 기반 튜닝이 CPU 기반 멀티코어에서는 캐시 계층, TLB 미스, 메모리 대역폭 등 복합적인 하드웨어 특성 때문에 신뢰성이 낮아질 수 있음을 강조한다. 따라서 경험적 접근이 현재와 같은 복잡한 시스템에서 더 현실적이며, 향후 다른 선형대수 라이브러리(LU, Cholesky)에도 동일한 프레임워크를 적용할 수 있는 가능성을 제시한다.