인과적 맥락을 고려한 샤플리 값
** 본 논문은 전통적인 관측 기반 샤플리 값이 다변량 특성 중요도 평가에서 콜라이더 편향과 억제 현상으로 인해 오해를 일으킬 수 있음을 지적한다. 인과 그래프 정보를 활용해 개입(intervention) 형태로 샤플리 값을 수정한 ‘cc‑Shapley’를 제안하고, 이 방법이 콜라이더 편향을 이론적으로 제거함을 증명한다. 합성 및 실제 데이터 실험을 통해 기존 샤플리와 cc‑Shapley의 차이를 확인하고, 인과적 맥락이 없는 XAI 기법…
저자: Jörg Martin, Stefan Haufe
**
본 논문은 Explainable AI(XAI) 분야에서 가장 널리 사용되는 샤플리 값(Shapley value) 기반 특성 중요도 평가가 인과적 맥락을 무시할 경우, 콜라이더 편향과 억제(suppression) 현상으로 인해 잘못된 해석을 초래한다는 근본적인 문제를 제기한다. 저자들은 먼저 샤플리 값의 수학적 정의를 재정리하고, 이를 I_S(X_j)=E
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기