최소 편집을 위한 최적 운송 기반 샤플리 값

초록

COLA는 기존 반사형 설명(Counterfactual Explanation)을 최적 운송(Optimal Transport)으로 연결된 커플링을 이용해 정제하고, 새로운 p‑SHAP을 통해 목표 효과를 유지하면서 필요한 특성 수정 수를 26~45% 수준으로 크게 줄이는 모델·생성기 독립형 프레임워크이다.

상세 분석

본 논문은 반사형 설명(Counterfactual Explanation, CE)이 실제 적용 단계에서 “필요 이상의 특성 변동”을 초래한다는 문제점을 지적한다. 기존 CE 알고리즘은 목표 출력에 도달하기 위해 가능한 모든 변수를 탐색하지만, 그 과정에서 불필요한 특성 변경이 많이 포함돼 사용자가 이해하거나 행동으로 옮기기 어렵다. 저자들은 이를 해결하기 위해 두 가지 핵심 아이디어를 제시한다. 첫째, 실제 데이터 집합 x와 생성된 반사형 데이터 집합 r 사이에 최적 운송(Optimal Transport, OT) 커플링을 계산한다. OT는 두 분포 사이의 비용을 최소화하는 운송 계획 pₒₜ를 제공하며, 이 계획은 각 실제 샘플과 가장 “가까운” 반사형 샘플을 매핑한다. 논문에서는 엔트로피 정규화 OT를 사용해 계산 효율성을 확보하고, 이때 최소화되는 비용이 W₁ 거리(1‑Wasserstein)의 상한임을 이론적으로 증명한다. 둘째, 이 OT 기반 커플링을 이용해 새로운 샤플리 값 변형인 p‑SHAP을 정의한다. 기존 B‑SHAP, RB‑SHAP, CF‑SHAP은 각각 고정된 베이스라인, 무작위 배경, 혹은 반사형 분포에 의존하지만, p‑SHAP은 OT가 제공하는 최적 결합 p(x, r) 을 사용함으로써 특성 기여도를 “정렬된” 형태로 평가한다. 이렇게 하면 특성 중요도와 실제 변동 경로 사이의 불일치를 해소하고, CE와 특성 중요도(FE)를 일관되게 결합할 수 있다. 이론적 분석에서는 (1) OT가 W₁ 거리의 상한을 최소화함을, (2) OT 기반 커플링을 사용한 p‑SHAP이 기존 샤플리 방법들의 특수 경우를 포함한다는 점을 보인다. 또한, 충분히 작은 정규화 파라미터 ε 하에서 정제된 반사형 z′가 원본 반사형 z보다 실제 데이터 x와의 거리 D(z′, x) 가 더 크지 않음이 보장된다. 실험에서는 네 개 데이터셋(Adult, COMPAS, LendingClub, MNIST), 열두 개 모델(로지스틱 회귀, 랜덤 포레스트, XGBoost 등) 및 다섯 개 CE 생성기(Gradient‑Based, Genetic, DiCE 등)를 조합해 평가했다. 결과는 목표 출력(y*)를 동일하게 달성하면서 필요한 특성 수정 수를 평균 26~45%로 감소시켰으며, 작은 규모 벤치마크에서는 거의 최적에 근접한 성능을 보였다. 특히, 기존 CF‑SHAP을 그대로 사용했을 때는 불필요한 변동이 많이 발생했지만, OT 기반 p‑SHAP을 적용하면 변동 경로가 크게 압축되는 현상이 관찰되었다. 전체적으로 COLA는 “모델·생성기 독립형”이라는 장점을 유지하면서, CE와 FE를 통합해 실용적인 행동 권고(action plan)를 제공한다는 점에서 의미가 크다.