자동 튜닝과 설명 가능한 인공지능의 융합 수치 라이브러리 최적화 혁신

초록

본 논문은 인공지능 기반 자동 튜닝(AT) 시스템에 설명가능 인공지능(XAI) 기법을 적용하여, 정확도 보장 수치 연산과 희소 반복 알고리즘의 성능 파라미터 최적화를 투명하게 수행하는 방법을 제시한다. XAI를 통해 튜닝 과정에서 도출된 파라미터 선택 이유와 성능 변동 원인을 시각화·해석함으로써, 개발자가 AI 모델을 신뢰하고 효율적으로 활용할 수 있도록 지원한다.

상세 분석

논문은 먼저 AI 기반 자동 튜닝이 전통적인 수치 라이브러리 최적화에서 차지하는 역할을 정리한다. 기존 AT는 메타러닝, 강화학습, 베이지안 최적화 등 다양한 학습 기법을 활용해 매개변수 공간을 탐색하지만, 최적 파라미터가 어떻게 도출되었는지에 대한 설명이 부족해 실무 적용에 장애가 된다. 이를 극복하기 위해 저자들은 XAI 기법을 두 단계에 적용한다. 첫 번째는 성능 파라미터 튜닝 단계에서, SHAP(Shapley Additive exPlanations)와 LIME(Local Interpretable Model‑agnostic Explanations) 같은 모델‑불가지론적 방법을 사용해 각 파라미터가 최종 실행 시간·정밀도에 미치는 기여도를 정량화한다. 두 번째는 희소 반복 알고리즘(예: CG, GMRES)에서 학습된 스케줄러가 선택한 스파스 매트릭스 압축 비율·전처리 옵션 등에 대한 의사결정 트리를 시각화한다.

핵심 기술적 인사이트는 다음과 같다. 첫째, XAI를 적용한 AT는 파라미터 공간을 무작위 탐색이 아닌 ‘설명 기반 가중치 조정’으로 축소시켜 탐색 효율을 30 % 이상 향상시킨다. 둘째, SHAP 값 분석을 통해 특정 하드웨어(예: SIMD 폭, 캐시 라인 크기)와 연관된 파라미터가 성능에 미치는 비중을 자동으로 추출함으로써, 하드웨어 의존성을 명시적으로 모델링할 수 있다. 셋째, 희소 알고리즘에서 XAI가 제공하는 의사결정 경로는 수렴 속도와 메모리 사용량 사이의 트레이드오프를 직관적으로 보여주어, 사용자가 목표에 맞는 최적점을 선택하도록 돕는다.

또한 논문은 XAI와 AT의 통합이 가져오는 실용적 장점을 실험을 통해 검증한다. 대표적인 수치 라이브러리인 BLAS와 LAPACK의 최신 버전에 적용했을 때, 기존 자동 튜닝 도구 대비 평균 1.4배 빠른 실행 시간과 5 % 이하의 정확도 손실을 기록하였다. 특히, 설명 가능한 결과를 제공함으로써 개발자는 튜닝 로그를 재현하고, 비정상적인 파라미터 선택이 발생했을 때 원인을 빠르게 파악할 수 있었다. 이러한 투명성은 AI 모델에 대한 신뢰성을 높이고, 장기적인 유지보수 비용을 절감한다는 점에서 큰 의미를 가진다.

마지막으로 저자들은 XAI 기반 AT가 현재 한계점도 존재함을 언급한다. 고차원 파라미터 공간에서 SHAP 계산 비용이 급증할 수 있으며, 실시간 튜닝이 요구되는 환경에서는 경량화된 설명 기법이 필요하다. 향후 연구 방향으로는 설명 비용을 최소화하는 메타‑XAI 프레임워크와, 도메인 특화 설명 모델을 설계해 다양한 수치 연산에 적용하는 방안을 제시한다.