ExplainReduce 지역 설명을 전역 설명으로 압축

초록

ExplainReduce는 다수의 로컬 XAI 설명을 작은 프록시 집합으로 압축해 전역적인 모델 해석을 제공한다. 설명 집합을 최대 커버리와 최소 손실을 동시에 만족하도록 최적화 문제로 정의하고, 서브모듈러 특성을 이용한 그리디 알고리즘으로 효율적으로 근사한다. 실험에서는 회귀·분류 모두에서 5개 이하의 프록시 모델만으로 원본 블랙박스 모델을 높은 충실도로 재현했으며, 기존 집합 커버링·정수계획 기반 방법보다 우수한 정확도와 확장성을 보였다.

상세 분석

본 논문은 로컬 설명이 중복되는 현상을 관찰하고, 이를 정형화된 최적화 문제로 전환한다는 점에서 의미가 크다. 저자들은 데이터셋 D와 블랙박스 모델 f에 대해 각 샘플에 대한 로컬 서베이 모델 g_i를 생성하고, 손실 행렬 L_{ij}=ℓ(g_i(x_j), ŷ_j)를 정의한다. 여기서 ℓ는 일반적인 L2 혹은 교차엔트로피 손실이며, ε는 허용 오차 임계값이다. 두 가지 핵심 목표가 제시된다. 첫 번째는 주어진 k개의 프록시 모델로 커버리 C(S,ε)를 최대화하는 Max‑Cover 문제이며, 이는 전형적인 부분 집합 커버링 문제로 NP‑complete임을 인정한다. 저자들은 Nemhauser et al. (1978)의 1‑1/e 보장을 갖는 그리디 알고리즘을 적용해 알고리즘 1(reduce)를 설계한다. 두 번째 목표는 평균 손실 L(S)= (1/n)∑j min{i∈S} ℓ(g_i(x_j), ŷ_j) 를 최소화하는 Min‑Loss 문제이다. 이는 초모듈러 최소화이지만, L_base−L(S) 형태의 단조 비감소 서브모듈러 함수 f(S) 로 변환해 동일하게 그리디 선택으로 근사한다. 이론적 보장은 각각 (1−1/e)·OPT와 (1−1/e)·OPT에 해당한다.

알고리즘 구현에서는 손실 행렬을 사전 계산해 O(mn) 메모리를 사용하고, 각 그리디 단계에서 marginal gain을 O(m) 시간에 평가한다. 실험에서는 LIME, SHAP, SLISEMAP 등 다양한 로컬 XAI 기법으로부터 얻은 선형 모델·규칙 기반 모델을 입력으로 사용했으며, 회귀 데이터셋(예: Boston Housing, UCI Energy)과 분류 데이터셋(예: MNIST, CIFAR‑10) 모두에서 평가했다. 결과는 k=5 이하일 때 커버리 90% 이상, 평균 손실이 원본 모델 대비 5% 이내로 유지되는 것을 보여준다. 또한, 기존의 Submodular Pick(LIME)이나 정수계획 기반 최적화와 비교했을 때, ExplainReduce는 실행 시간에서 1~2 orders of magnitude 빠르고, 동일 혹은 더 높은 커버리·정밀도를 달성했다.

논문의 한계로는 로컬 모델이 예측을 제공해야 한다는 전제와, ε와 k를 사전에 지정해야 하는 하이퍼파라미터 선택 문제가 있다. 향후 연구에서는 자동 ε‑k 튜닝, 비선형 로컬 모델(예: 작은 신경망) 확장, 그리고 프록시 모델을 이용한 실시간 의사결정 지원 시스템 구축이 제안된다.