Shapley 값 추정의 새로운 패러다임 OddSHAP

초록

본 논문은 Shapley 값이 집합 함수의 홀수 성분에만 의존한다는 사실을 증명하고, 이를 이용해 짝샘플링(paired sampling)이 회귀 목표를 홀수와 짝수 성분으로 분리하는 메커니즘을 제시한다. 이 이론적 통찰을 바탕으로 Fourier 기반의 희소한 홀수 차수 항만을 사용해 다항 회귀를 수행하는 일관적인 추정기 OddSHAP을 설계한다. 실험 결과, OddSHAP은 기존 최고 성능 추정기들을 능가하며 계산 효율성까지 확보한다.

상세 분석

논문은 Shapley 값의 근본적인 구조를 ‘홀수(odd) 성분’과 ‘짝수(even) 성분’으로 분해하는 수학적 프레임워크를 제시한다. 집합 함수 f에 대해 f(S)와 그 보완 집합 f(Sᶜ)의 차이를 절반으로 나눈 것이 홀수 성분 f_odd이며, 합을 절반으로 나눈 것이 짝수 성분 f_even이다. 저자는 ϕ_i(f)=ϕ_i(f_odd)임을 정리 1에서 증명함으로써, Shapley 값 계산에 짝수 성분이 전혀 기여하지 않음을 명시한다. 이 결과는 기존에 경험적으로 알려진 ‘paired sampling’이 실제로는 회귀 문제를 홀수와 짝수 두 개의 직교된 서브스페이스로 분리하고, 짝수 서브스페이스를 필터링함으로써 추정 오차를 감소시킨다는 메커니즘을 이론적으로 뒷받침한다.

이론적 기반 위에 제안된 OddSHAP은 두 단계로 구성된다. 첫 단계에서는 GBT(Gradient Boosted Trees) 기반 프록시 모델을 이용해 샘플링된 연합 집합들 중에서 중요한 ‘홀수 차수’ Fourier 계수를 탐지한다. Fourier 기저는 차수(카디널리티)가 홀수인 경우에만 함수가 홀수 성분이 되므로, 이 단계에서 선택된 계수들은 Shapley 값에 직접적인 영향을 미치는 상호작용을 의미한다. 두 번째 단계에서는 선택된 희소한 홀수 차수 항들만을 사용해 가중치가 부여된 최소제곱 다항 회귀를 수행한다. 이 회귀는 기존 PolySHAP이 전체 다항 기저를 사용해 O(|T|²m) 복잡도를 갖는 것과 달리, |T|이 홀수 차수 항만으로 크게 감소하므로 계산량이 크게 줄어든다.

또한 논문은 PolySHAP과 동일한 일관성(consistency) 특성을 유지한다. 즉, 샘플링 예산 m이 전체 연합 공간 2^d에 수렴하면, OddSHAP이 추정한 f̂_odd은 실제 f_odd과 일치하고, 따라서 ϕ_i(f̂_odd)=ϕ_i(f)가 된다. 이는 기존 선형·다항 회귀 기반 추정기들의 이론적 보장을 그대로 이어받으면서도, 짝수 성분을 완전히 배제함으로써 추정 편향을 최소화한다는 점에서 큰 의미가 있다.

실험에서는 8개의 베엔치마크 데이터셋(예: DistilBERT, VIT16, NHANES 등)에 대해 평균 MSE와 순위(rank)를 평가하였다. 표 1에서 OddSHAP은 평균 순위 1.50으로 가장 낮은 값을 기록했으며, 특히 높은 차원의 데이터셋(예: d=79, 101)에서도 다른 최신 방법들보다 월등히 낮은 오차를 보였다. 계산 시간 측면에서도 Fourier 기반 희소 선택과 GBT 프록시를 결합한 설계가 PolySHAP의 O(d^{2k}) 복잡도를 크게 완화시켜, 실용적인 예산(m≈100·d)에서도 높은 정확도를 달성한다.

결론적으로, 이 논문은 Shapley 값 추정에 있어 ‘홀수 성분만이 의미 있다’는 근본적인 사실을 밝혀내고, 이를 활용한 OddSHAP 알고리즘을 통해 기존 추정기의 한계를 뛰어넘는 정확도와 효율성을 동시에 제공한다. 이는 모델 해석, 데이터 가치 평가, 인과 추론 등 다양한 응용 분야에서 Shapley 기반 설명 방법을 보다 신뢰성 있게 적용할 수 있는 새로운 패러다임을 제시한다.