신경 가산 모델의 증명 가능한 최소 설명 생성

초록

본 논문은 신경 가산 모델(NAM)에서 입력 특성의 최소 충분 설명을 효율적으로 찾는 알고리즘을 제안한다. 기존 일반 신경망에서는 설명을 찾기 위해 지수적인 검증 쿼리가 필요했지만, NAM의 가산 구조를 활용해 전처리 단계와 이진 탐색을 결합함으로써 로그 수준의 검증 쿼리만으로 카드리날리-미니멀(최소 크기) 설명을 얻는다. 실험 결과, 제안 방법이 기존 서브셋-미니멀 알고리즘보다 설명 크기가 작고 실행 시간이 크게 단축됨을 보인다. 또한, 샘플링 기반 해석이 놓칠 수 있는 위험을 피하고, 안전‑중요 분야에서 신뢰성을 크게 향상시킨다.

상세 분석

이 논문은 신경 가산 모델(NAM)의 구조적 특성을 이용해 ‘증명 가능한 충분 설명(provably sufficient explanation)’을 찾는 새로운 알고리즘을 설계하였다. 기존 연구에서는 일반적인 다층 신경망에 대해 충분 설명을 찾기 위해 모든 특성 조합에 대해 신경망 검증(verification) 쿼리를 수행해야 했으며, 이는 특성 수 n에 대해 최악의 경우 2ⁿ개의 쿼리를 요구하고 각 쿼리는 NP‑hard 문제이기에 실용적이지 않았다. 반면 NAM은 전체 모델이 각 특성별 단변량 신경망 f_i(x_i)의 합으로 표현되므로, 각 특성의 기여도를 독립적으로 평가할 수 있다.

알고리즘은 두 단계로 구성된다. 첫 번째 단계는 각 f_i에 대해 입력 x_i의 ε‑p 구간 내에서 최소값을 하한·상한