AI가 고성능 컴퓨팅을 혁신한다

초록

본 리뷰는 2019‑2025년 사이에 발표된 1,800여 편의 논문을 체계적으로 검토하여, 인공지능(AI)이 고성능 컴퓨팅(HPC) 시스템의 전력 효율·성능·운영 비용 절감에 어떻게 기여할 수 있는지를 6가지 적용 분야(성능 추정, 최적화, 스케줄링, 대리 모델링, 결함 탐지, LLM 기반 자동화)로 정리한다. 특히 스케줄링 분야가 가장 활발히 연구되고 있으며, 지도학습 기반 성능 추정이 다른 영역의 기반 기술로 작용한다는 점을 강조한다.

상세 분석

이 논문은 AI‑for‑HPC 분야를 정량적으로 파악하기 위해 1,800편의 문헌을 키워드 기반으로 수집하고, 사전 정의된 포함·제외 기준에 따라 74편을 최종 선정하였다. 선정된 논문은 크게 여섯 가지 카테고리로 구분되는데, 각 카테고리는 서로 긴밀히 연계되어 있다. 예를 들어, 성능 추정은 스케줄러와 최적화 엔진이 요구하는 입력값으로 활용되며, 그래프 신경망(GNN)과 시계열 모델은 시스템 로그에서 공간‑시간적 상관관계를 포착해 결함 탐지와 이상 탐지 정확도를 크게 향상시킨다.

스케줄링 영역에서는 강화학습(RL) 기반 스케줄러가 동적 워크로드와 자원 가용성 변동에 적응하는 능력을 보여주지만, 실제 운영 환경에서는 하이브리드 접근법이 더 실용적이다. 논문은 RL‑기반 정책에 전통적 휴리스틱(예: FCFS, SJF)을 결합한 ‘하이브리드‑RL’ 설계가 오버헤드와 안정성 사이의 균형을 맞출 수 있음을 여러 사례 연구를 통해 입증한다. 또한, 서베이된 논문들 중 다수는 ‘데이터‑드리븐 추정기’를 사용해 작업 실행 시간을 예측하고, 이를 정수선형계획(ILP) 혹은 제약 기반 최적화와 연계해 전체 시스템 효율을 10‑20% 정도 개선한다는 결과를 보고한다.

대리 모델링(surrogate modeling) 파트에서는 고비용 시뮬레이션을 대체하는 메타 모델이 어떻게 학습 데이터의 편향을 최소화하면서도 높은 예측 정확도를 유지하는지, 특히 전이 학습과 메타‑러닝 기법이 다양한 워크로드에 대한 일반화 능력을 강화한다는 점을 강조한다. 결함 탐지에서는 GNN이 노드(컴퓨팅 노드)와 엣지(네트워크 링크) 간의 상호작용을 모델링함으로써 전통적인 통계 기반 방법보다 빠른 탐지 속도와 낮은 오탐률을 달성한다.

마지막으로, 도메인 특화된 대형 언어 모델(LLM)이 HPC 운영 스크립트 자동 생성, 코드 최적화, 보안 정책 작성 등에 활용될 수 있음을 실험적으로 입증한다. 일반 LLM 대비 HPC‑전용 프리트레인 모델이 코드 정확도·생산성 향상에서 평균 15% 이상의 이점을 보였으며, 이는 향후 운영 체제 수준에서 AI‑driven 인터페이스를 구현할 가능성을 시사한다.

전체적으로 논문은 AI‑for‑HPC 연구가 아직 초기 단계이며, 특히 MLOps 파이프라인 구축, 표준화된 API·데이터 포맷 정의, 벤치마크 체계 확립이 시급함을 지적한다. 이러한 인프라가 마련될 경우, AI 기술이 HPC 시스템 전반에 걸쳐 지속 가능한 성능 향상을 이끌 핵심 동력이 될 것으로 전망한다.