전체론적 설명가능 AI: 개발자를 넘어선 투명성

초록

본 논문은 기존 XAI가 개발자 중심에 머무는 한계를 극복하고, 신용평가·주가예측 등 온라인 의사결정 서비스에 적용되는 AI 모델을 이해관계자(개인, 규제기관, 조직) 모두가 활용할 수 있도록 설계한 ‘Holistic XAI(H‑XAI)’ 프레임워크를 제안한다. H‑XAI는 인과관계 기반의 Rating‑Driven Explanation(RDE)과 SHAP·PDP·Counterfactual 등 전통적인 사후 설명 기법을 결합해 전역·전국 수준의 편향·안정성 평가와 개별 예측 설명을 동시에 제공한다. 신용 위험 분류와 주가 예측 두 사례를 통해 RDE가 자동 생성된 무작위·편향 기준 모델과의 비교를 통해 모델의 공정성·신뢰성을 직관적으로 드러내는 과정을 보여준다.

상세 분석

H‑XAI는 크게 세 가지 혁신적 요소로 구성된다. 첫째, 이해관계자 별 요구를 체계화하기 위해 기존 연구