오픈 IoT를 위한 자동 GPU 오프로드와 유전 알고리즘 기반 성능 최적화

초록

본 논문은 오픈 IoT 환경에서 Tacit Computing의 성능·비용 문제를 해결하고자, C/C++ 애플리케이션의 루프를 자동으로 GPU에 오프로드하는 기술을 제안한다. 유전 알고리즘을 이용해 오프로드 후보 루프를 탐색·평가하며, 2048×2048 행렬 곱 연산에 대해 1시간 이내에 35배 이상의 속도 향상을 달성하였다.

상세 분석

이 연구는 오픈 IoT 시대에 다양한 디바이스와 서비스가 수평적으로 분리되어 동적으로 결합되는 환경을 전제로 한다. 기존 Tacit Computing은 사용자가 필요로 하는 데이터를 제공하는 디바이스를 실시간으로 탐색하고 가상화하는 기능을 제공하지만, 연산 성능이나 운영 비용을 고려하지 않아 대규모 영상 분석·센서 데이터 처리에 한계가 있었다. 이를 보완하기 위해 저자는 GPU와 같은 이종 연산 자원을 자동으로 활용하는 오프로드 메커니즘을 설계하였다. 핵심 아이디어는 프로그램 내 모든 for‑loop을 먼저 정적 분석으로 병렬 가능성을 검사하고, 병렬 가능 루프를 0/1 유전자로 매핑한 뒤, Simple GA(루렛 선택, 1점 교차, 단일 비트 변이)를 적용해 최적의 오프로드 조합을 탐색하는 것이다. 각 개체는 해당 유전자를 기반으로 #pragma acc kernels 지시자를 삽입한 코드를 생성하고, PGI 컴파일러로 GPU 바이너리를 만든 뒤 검증 머신에서 벤치마크(행렬 곱) 실행 시간을 측정한다. 적합도는 실행 시간의 역수로 정의되어, GA는 세대가 진행될수록 실행 시간이 짧은 조합을 선호한다. 실험에서는 유전자의 길이가 12(행렬 곱에 포함된 병렬 루프 수)이고, 개체 수·세대 수를 각각 12 이하로 제한했으며, 교차율 0.9, 변이율 0.05를 사용하였다. 결과는 12세대까지 진행했을 때 최적 개체가 2.43초(기본 CPU 92.27초)로 37배 가속을 달성했으며, 평균 2분 미만의 평가 시간으로 전체 탐색이 1시간 이내에 종료되었다. 이는 기존 자동 병렬화 도구가 요구하는 수작업 튜닝 대비 크게 향상된 생산성을 보여준다. 또한, GA 탐색 과정에서 동일 개체가 재등장하면 재컴파일·재실행을 생략하는 캐시 메커니즘을 도입해 탐색 효율을 높였다. 이와 같이 유전 알고리즘을 활용한 자동 GPU 오프로드는 오픈 IoT 서비스가 요구하는 빠른 배포와 비용 효율성을 동시에 만족시킬 수 있는 실용적인 솔루션으로 평가된다.