과학적 발견을 위한 자동 설명 선택

초록

**
본 논문은 머신러닝 모델과 자동 추론을 결합해 설명을 생성·선택하는 과학적 발견 사이클을 제안한다. 사회·인지 과학에서 도출한 설명 선택 기준을 체계화하고, SAT·SMT 기반의 형식적 방법으로 설명의 필요·충분·최소성·일반성 등을 최적화한다.

**

상세 분석

**
이 논문은 XAI(Explainable AI) 분야에서 ‘설명 선택’이라는 비교적 미탐구 영역을 조명한다. 저자는 먼저 머신러닝 모델이 갖는 불투명성을 ‘귀납‑연역’ 이원론으로 분석한다. 귀납 단계에서는 데이터에서 패턴을 학습하지만, 그 결과가 진리인지 보장할 수 없으며, 연역 단계에서는 모델을 형식 언어로 인코딩해 논리적 추론을 수행함으로써 설명을 ‘가설’ 수준에서 검증 가능하게 만든다. 핵심 기여는 두 가지다. 첫째, SAT·SMT 솔버를 활용해 설명을 정확히 도출하고, 그 과정에서 생성되는 증명(Proof)을 검증 가능한 형태로 제공함으로써 신뢰성을 확보한다. 둘째, 사회·인지 과학 문헌을 토대로 ‘대조성, 필요성, 충분성, 최소성, 일반성, 이례성, 확률성, 통계적 일반화’ 등 8가지 설명 속성을 정의하고, 이를 다목적 MaxSAT 문제로 공식화한다. 이렇게 하면 설명 집합을 자동으로 필터링해 인간 연구자가 직관적으로 선호하는 설명만을 남길 수 있다. 특히, ‘대조성(Contrast)’을 기본 질문인 “왜 P가 아니라 Q인가?”에 연결시켜, 설명이 상황적 맥락을 반영하도록 설계한 점이 눈에 띈다. 또한, AXp(Abductive Explanation)와 CXp(Contrastive Explanation)의 이중성을 이용해 최소 충족 집합(MUS)·최소 교정 집합(MCS) 열거 알고리즘을 적용함으로써, 기존 휴리스틱 방법(LIME, Anchors)보다 엄격한 최소성·정확성을 보장한다. 논문은 SAT 기반 AllSAT, MaxSAT, 그리고 최신 포트폴리오·병렬 솔버(Mallob) 활용 방안을 제시해, 대규모 트리 앙상블 모델에서도 실시간 수준의 설명 열거가 가능함을 실험적·이론적으로 뒷받침한다. 마지막으로, 형식적 설명이 제공하는 ‘증명 가능성’은 평가 단계에서 인간 주관성을 최소화하고, 법·규제(예: EU AI Act) 요구사항을 충족시키는 근거 자료가 될 수 있음을 강조한다. 전체적으로 이 논문은 자동화된 설명 생성·선택 파이프라인을 이론·실험 양면에서 정교히 설계했으며, XAI 연구와 실제 적용 사이의 격차를 메우는 중요한 청사진을 제공한다.

**