GPU 기반 배치 LP 해결을 위한 고성능 1차 방법

초록

본 논문은 혼합정수계획(MIP)에서 강한 분기와 경계 강화에 사용되는 다수의 선형계획(LP)을 GPU에서 동시에 해결하기 위해, 프라임-듀얼 하이브리드 그라디언트(PDHG) 알고리즘을 배치 형태로 확장한 Batched First‑Order Method를 제안한다. 행렬‑행렬 연산을 활용해 기존의 행렬‑벡터 반복보다 훨씬 높은 처리량을 달성하고, 배치 크기에 따른 최적 성능 지점을 실험적으로 규명한다.

상세 분석

이 연구는 기존 GPU 기반 1차 방법이 개별 LP를 해결하는 데 초점을 맞추었던 한계를 넘어, 동일한 제약 행렬 A를 공유하면서 목표 함수와 변수 경계만이 다른 다수의 LP를 동시에 처리하는 배치 구조를 설계하였다. 핵심 아이디어는 PDHG 알고리즘에 Halpern‑반사 기법을 적용해 수렴 속도를 선형적으로 보장하고, 적응형 재시작 및 프라임 가중치 w의 지수적 스무딩을 통해 각 배치 내 문제마다 최적의 스텝 사이즈(τ, σ)를 동적으로 조정한다는 점이다.

배치 연산을 행렬‑행렬 형태(A·Y, Aᵀ·X)로 구현함으로써, GPU의 고속 SM(Streaming Multiprocessor)와 메모리 대역폭을 최대한 활용한다. 실험에서는 CUDA cuSPARSE 라이브러리를 이용해 배치 크기 32~512 구간에서 AX와 AᵀY 연산 시간이 거의 일정하게 유지되는 현상을 확인했으며, 이는 메모리 전송 오버헤드가 최소화된 상태에서 연산량이 GPU 코어에 효율적으로 분산된 결과이다. 배치 크기가 512를 초과하면 연산 시간이 증가하는데, 이는 GPU 메모리 캐시 한계와 워프 스케줄링 비용이 급증하기 때문이다. 따라서 논문은 “최적 배치 크기”를 사전에 작은 샘플 연산으로 추정하는 절차를 제안한다.

알고리즘 설계 측면에서 주목할 점은 배치 내 각 LP에 대해 별도의 τ, σ, w를 유지함에도 불구하고, 전체 연산을 하나의 대형 행렬 연산으로 통합한다는 점이다. 이를 위해 Kronecker product 형태(τ⊗Y, σ⊗X)를 정의하고, 각 열마다 다른 스텝 파라미터를 적용한다. 또한, 평균 고정점 잔차 ˜r(Z) 기반의 전역 재시작 전략을 도입해 배치 전체가 동시에 재시작되도록 함으로써, 일부 문제에서 조기 수렴이 발생하더라도 전체 배치가 균형 있게 진행되도록 설계하였다.

불가능성 검출 메커니즘도 기존 PDHG 기반 방법을 확장해 배치 버전으로 구현하였다. 원시 및 이중 불가능성 조건을 행렬 형태로 재정의하고, 각 LP별 displacement vector(δx, δy, δr)를 동시에 계산한다. 이는 GPU에서 병렬로 수행될 때 추가적인 연산 비용이 거의 들지 않으며, 배치 내 일부 LP가 불가능하다고 판단되면 즉시 해당 열을 제외하고 연산을 진행함으로써 전체 효율을 높인다.

강한 분기(FSB)와 최적화 기반 경계 강화(OBBT) 실험에서는, 전통적인 CPU 기반 simplex 또는 기존 GPU ADMM 구현 대비 3배~10배 정도의 속도 향상을 보고하였다. 특히, 강한 분기에서는 초기 pseudo‑cost를 정확히 계산할 수 있어, 이후의 분기 선택 품질이 크게 개선되었다. 또한, 배치 크기에 따른 성능 곡선을 제시하며, 문제 규모(변수 수 n, 제약 수 m)와 GPU 아키텍처에 따라 최적 배치 크기가 달라짐을 실증하였다.

결론적으로, 이 논문은 “GPU에서 완전한 배치 LP 해결”이라는 새로운 패러다임을 제시하고, MIP 솔버 설계 시 GPU 친화적인 연산 블록(특히 행렬‑행렬 곱)을 전면에 배치함으로써 기존 CPU‑GPU 혼합 접근법이 갖는 데이터 이동 병목을 근본적으로 해소한다는 점에서 학술적·실용적 의의가 크다.