거부 옵션을 가진 선형 모델의 최소 크기 귀납 설명

초록

**
본 논문은 선형 분류기에 거부 옵션을 도입한 상황에서, 모델이 예측을 거부한 이유를 최소한의 특징 집합으로 정확히 설명하는 방법을 제시한다. 허용된 예측에 대해서는 기존 로그‑선형 알고리즘을 그대로 확장하여 최적 설명을 빠르게 찾고, 거부된 예측에 대해서는 0‑1 정수선형계획(ILP) 모델을 설계해 최소 크기의 귀납적 설명을 구한다. 실험 결과, 제안 기법은 기존 선형계획 기반 방법보다 실시간 수준의 속도로 더 짧고 충실한 설명을 제공한다.

**

상세 분석

**
이 연구는 설명 가능 인공지능(XAI)에서 가장 엄격한 충실성 기준인 귀납적 설명(abductive explanation, AXp)을 최소 크기로 산출하는 문제를 다룬다. 기존 연구에서는 선형 모델에 대해 입력 특성의 값 범위가 유한하고 구간이 제한된 경우, 로그‑선형 시간 복잡도로 최소 크기 AXp를 찾을 수 있음을 보였지만, 거부 옵션이 포함된 경우는 다루지 않았다. 거부 옵션은 모델이 불확실하거나 위험한 영역에 대해 ‘0’이라는 별도 클래스를 반환하도록 설계되며, 이는 실제 의료·금융 등 고위험 분야에서 필수적인 안전 장치이다. 그러나 거부 결정 자체도 인간 전문가에게 설명되어야 하므로, 거부 이유를 최소한의 특징으로 명시하는 것이 요구된다.

논문은 두 가지 상황을 구분한다. 첫째, 모델이 확정적인 클래스를 반환한 경우(accepted instances)에는 기존의 로그‑선형 알고리즘을 그대로 적용하면서, 거부 임계값(t⁺, t⁻)을 고려하도록 약간의 수정만을 가한다. 이 과정에서 각 특성의 기여도를 정렬하고, 가장 영향력 있는 특성부터 차례로 포함시켜 가며, 현재 포함된 특성 집합이 여전히 원래 예측을 보장하는지를 선형 점수와 임계값을 이용해 빠르게 검증한다. 이 greedy 절차는 특성 수 n에 대해 O(n·log n) 시간 복잡도를 유지한다.

둘째, 모델이 ‘거부’(rejection) 클래스를 반환한 경우( rejected instances)에는 최소 크기의 귀납적 설명을 찾기 위해 0‑1 정수선형계획(ILP) 문제를 정의한다. 변수 z_i∈{0,1}는 특성 i가 설명에 포함되는지를 나타내며, 제약식은 “설명에 포함된 특성만 고정했을 때, 모든 가능한 나머지 특성 값에 대해 점수 s(x)가