GRANITE: 일관된 특징 기반 설명을 위한 지역 프레임워크

초록

GRANITE은 특징 간 상호작용과 특징 분포 의존성을 최소화하는 지역을 자동으로 찾아, SHAP, ICE, PFI 등 서로 다른 설명 방법 간의 불일치를 줄이고 보다 일관되고 해석 가능한 설명을 제공한다. 재귀적 파티셔닝 알고리즘을 통해 실제 데이터에 적용 가능하도록 구현하였다.

상세 분석

본 논문은 특징 기반 설명 방법들이 “마스킹 방식”(baseline, marginal, conditional)과 “상호작용 처리”(pure, partial, full)라는 두 축에서 서로 다른 선택을 할 때 발생하는 불일치를 체계적으로 정의하고, 이를 수학적으로 정량화하였다. 기존 fANOVA와 Möbius 변환을 기반으로 한 통합 프레임워크를 확장해, 마스킹 연산 M, 행동 연산 B, 상호작용 연산 I를 명시적으로 구분하고 각각을 지역 Ω에 제한함으로써 지역 설명 ϕ|Ω을 도출한다. 핵심 아이디어는 “지역 불일치” Rℓ|Ω(ϕ₁|Ω,ϕ₂|Ω)를 기대값 형태로 정의하고, 전체 특성 공간을 K개의 서로 겹치지 않는 영역으로 분할해 이 값을 최소화하는 파티션을 찾는 것이다.

이론적 기여로는 두 가지 주요 정리를 제시한다. 정리 1은 마스킹이 동일할 때 설명 간 차이가 순수하게 고차 상호작용 항의 가중치 차이로 표현됨을 보이며, 이를 통해 X₂=1 등과 같은 단순한 조건부 분할이 상호작용을 억제하고 설명을 일치시킬 수 있음을 설명한다. 정리 2는 특성 독립 가정 하에 마스킹이 동일하고 손실 함수가 제곱오차일 때, 지역적 완전 효과와 순수 효과 간 차이가 민감도(gradient) 차이와 동일함을 증명한다. 이는 지역 Ω를 선택함으로써 상호작용과 분포 의존성을 동시에 최소화할 수 있음을 이론적으로 뒷받침한다.

알고리즘 측면에서는 재귀적 파티셔닝을 제안한다. 초기 전체 공간을 기준으로 각 특징에 대한 불일치 기여도를 평가하고, 가장 큰 기여를 보이는 특징을 기준으로 이진 분할을 수행한다. 분할 후 각 서브 영역에 대해 동일한 절차를 반복하되, 사전 정의된 해석 가능성 제약(예: 최대 영역 수, 최소 샘플 수)을 만족하면 종료한다. 이렇게 얻어진 영역은 기존 결정트리와 유사한 형태이지만, 목적 함수가 “설명 불일치 최소화”라는 점에서 차별화된다.

실험에서는 합성 데이터와 실제 의료·금융 데이터셋을 사용해 SHAP(마진·조건부), PredDiff, ICE 등 여러 방법을 비교하였다. 결과는 지역 Ω를 적용했을 때 전역(전체 데이터)에서 보였던 평균 절대 차이가 30~70% 감소했으며, 특히 상호작용이 강한 변수 쌍에 대해 지역화가 큰 효과를 보였다. 또한, 영역별 설명을 시각화함으로써 도메인 전문가가 모델의 의사결정 로직을 보다 직관적으로 이해할 수 있음을 보여준다.

전체적으로 GRANITE은 “설명 방법 간 불일치 = 상호작용 + 분포 의존성”이라는 근본 원인을 명확히 규정하고, 이를 최소화하는 지역 파티셔닝을 통해 실용적인 해결책을 제시한다. 기존 지역 기반 설명(예: LIME, Anchor)과 차별화되는 점은 수학적 프레임워크에 기반해 불일치를 정량화하고, 마스킹·상호작용 선택에 따라 자동으로 최적 영역을 탐색한다는 점이다. 향후 확장 가능성으로는 다중 모델·다중 목표(예: 공정성, 안정성) 간의 트레이드오프를 동시에 고려하는 다목적 파티셔닝, 그리고 연속형 특성에 대한 비축축적(Non‑axis‑aligned) 분할 기법이 제시될 수 있다.