GAM 설명의 복잡성 지도 언제 쉬운가 언제 어려운가

초록

이 논문은 일반화 가법 모델(GAM)의 다양한 설명 방법에 대한 계산 복잡성을 체계적으로 분석한다. 구성 요소 모델(스플라인, 신경 가법 모델, 부스팅 트리), 설명 유형(최소 충분 이유, 최소 대비 이유, SHAP, 특징 중복성) 및 입력 도메인(열거 가능한 이산, 일반 이산, 연속) 세 축을 교차시켜 복잡도 결과를 도출한다. 주요 발견은 입력 도메인에 따라 복잡도가 크게 달라지고, 일부 경우에는 설명이 다항시간에 가능하지만 다른 경우에는 NP‑Hard, #P‑Hard 혹은 Σ₂ᴾ‑Hard가 된다. 특히 회귀와 분류에서 SHAP의 복잡도가 다르게 나타나는 등 흥미로운 구분이 확인된다.

상세 분석

논문은 먼저 GAM을 f(x)=β₀+∑_{j=1}^k β_j f_j(x_j) 형태로 정의하고, 각 구성 요소 f_j를 세 종류(스플라인 기반 Smooth GAM, ReLU 기반 Neural Additive Model, 부스팅 트리 기반 Explainable Boosting Machine)로 구분한다. 설명 유형은 (i) 최소 충분 이유(MSR)와 그 변형인 CSR·CC, (ii) 최소 대비 이유(MCR), (iii) SHAP 값, (iv) 전역 특징 중복성(FR) 네 가지로 설정한다. 입력 도메인은 (a) 열거 가능한 이산(값 집합 크기가 상수), (b) 일반 이산(이진 인코딩된 범위), (c) 연속 실수형으로 나눈다.

주요 기술적 결과는 표 1에 요약되는데, 여기서는 3×3×4=36개의 조합마다 복잡도 클래스를 명시한다.

1. 입력 도메인 의존성: 대부분의 설명은 열거 가능한 이산에서는 PTIME 혹은 pseudo‑PTIME(가중치를 유니코드로 표현)으로 해결 가능하지만, 일반 이산·연속에서는 NP‑Hard 혹은 #P‑Hard로 상승한다. 예를 들어, 최소 충분 이유와 최소 대비 이유는 연속 도메인에서 지수적 탐색이 필요해 NP‑Hard이 되지만, 특징 중복성은 연속에서 선형식으로 변환 가능해 PTIME가 된다. 이는 기존 비가법 모델(결정 트리, 신경망)에서는 관찰되지 않은 독특한 현상이다.

2. 구성 요소 모델 차이: 스플라인 기반 Smooth GAM은 다항식 형태와 제한된 차수 덕분에 대부분의 설명이 PTIME에 해결된다. 반면, NAM과 EBM은 비선형·비볼록 구조를 포함하므로, 연속·일반 이산 도메인에서 MSR·MCR이 NP‑Hard 또는 Σ₂ᴾ‑Hard가 된다. 특히, EBM은 트리 앙상블의 조합 복잡성 때문에 #P‑Hard가 되는 경우가 많다.

3. 회귀·분류 구분: SHAP 값에 한해 회귀와 분류의 복잡도가 크게 갈라진다. 회귀에서는 기대값 계산이 선형성에 의해 PTIME이지만, 이진 분류에서는 step 함수가 도입돼 #P‑Hard가 된다. 이는 SHAP이 모델 출력의 확률적 해석에 의존하기 때문에 발생한다.

4. 비가법 모델 대비: 동일한 비가법 모델(예: 일반 신경망, 트리 앙상블)은 최소 SHAP·MSR이 적어도 NP‑Hard인 반면, 이를 가법 형태(NAM, EBM)로 재구성하면 특정 입력 도메인에서는 PTIME 혹은 pseudo‑PTIME으로 완화된다. 그러나 이 완화는 설명 종류와 도메인에 따라 제한적이며, 예를 들어 연속 도메인에서 SHAP‑C는 여전히 #P‑Hard이다.

5. 의사다항식 시간: 가중치 β_j를 유니코드(단위)로 인코딩하면 일부 #P‑Hard 문제를 pseudo‑PTIME으로 전환할 수 있다. 이는 가중치 정밀도를 낮추면 탐색 공간이 실질적으로 축소된다는 의미이며, 실무에서는 근사 가중치 사용이 설명 효율성을 높일 수 있음을 시사한다.

전반적으로 논문은 “GAM은 해석 가능하지만 설명을 얻는 계산 비용은 입력 특성, 구성 요소, 과업 유형에 따라 크게 달라진다”는 핵심 메시지를 증명한다. 이러한 복잡도 지도는 연구자와 실무자가 설명 방법을 선택할 때, 모델 설계 단계에서 입력 도메인과 구성 요소를 신중히 고려하도록 안내한다.