다중 GPU 시스템을 위한 DPDLP 분산 PDHG 확장

초록

본 논문은 대규모 선형계획(LP) 문제 해결을 위해 Primal‑Dual Hybrid Gradient(PDHG) 알고리즘을 다중 GPU 환경에 확장한 D‑PDLP 프레임워크를 제안한다. 2차원 그리드 방식으로 제약 행렬을 블록으로 분할하고, 블록‑단위 무작위 순열과 비영(非零) 인식 파티셔닝을 결합해 로드 밸런스를 개선한다. NCCL 기반 AllReduce를 이용한 최소 통신 설계와 함께, FP64 정밀도를 유지하면서 MIPLIB·Mittelmann 등 표준 벤치마크와 실무 데이터셋에서 높은 스케일러빌리티와 속도 향상을 입증한다.

상세 분석

D‑PDLP는 기존 단일 GPU 기반 PDLP(예: cuPDLPx)의 한계를 극복하기 위해 두 차원(grid)으로 GPU를 조직하고, 제약 행렬 A를 |R|×|C| 블록으로 물리적으로 나눈다. 각 GPU(i,j)는 A