부분반응신경망: 해석 가능한 딥러닝을 위한 새로운 노모그램

초록

본 논문은 다층 퍼셉트론(MLP)을 ANOVA 분해하여 개별·쌍 변수 함수들을 추출하고, 로지스틱 라소를 이용해 구조를 자동 선택함으로써 일반화 가법 신경망(GANN)을 부분반응네트워크(PRN) 형태로 변환한다. PRN은 로지스틱 회귀와 동등한 투명성을 유지하면서 비선형 분류 성능을 확보하며, 벤치마크 데이터와 최신 머신러닝 모델(GBM, SVM, 랜덤 포레스트) 대비 경쟁력을 보인다.

상세 분석

이 연구는 해석 가능 머신러닝 분야에서 ‘Self‑Explaining Neural Networks (SENN)’라 불리는 GANN의 구조를 사전 정의 없이 자동으로 도출하는 새로운 파이프라인을 제시한다. 핵심 아이디어는 먼저 표형(tabular) 데이터에 적합한 다층 퍼셉트론(MLP)을 학습한 뒤, 이 모델에 기능적 ANOVA(분산분석) 분해를 적용해 전체 함수 f(x) 를 일차·이차 상호작용까지의 부분함수들의 합으로 표현한다. 즉, f(x)=∑i fi(xi)+∑i<j fij(xi,xj)+ε 형태가 된다. 여기서 fi는 단변량 부분반응, fij는 쌍변량 상호작용을 나타낸다.

ANOVA 분해 후 각 부분함수에 대한 계수를 로지스틱 라소(L1 정규화 로지스틱 회귀)로 추정함으로써, 불필요한 변수와 상호작용을 자동으로 제거한다. 라소는 계수의 희소성을 강제하므로, 최종적으로 선택된 변수·쌍만이 GANN 구조에 포함된다. 이렇게 도출된 구조는 기존 GANN이 사전에 설계해야 했던 ‘어떤 변수와 어떤 차수까지 포함할지’라는 문제를 회피하게 만든다.

선택된 구조를 기반으로, 각 부분함수를 신경망 형태의 작은 서브모듈로 재구성한다. 이때 각 서브모듈은 입력 차원에 대해 선형 가중치와 비선형 활성함수(예: ReLU, tanh)만을 사용해 단변량 혹은 쌍변량 함수를 근사한다. 이러한 서브모듈들의 가중치와 편향은 직접 해석 가능하도록 설계돼, 로지스틱 회귀의 회귀계수와 동일한 의미를 갖는다. 따라서 전체 모델은 ‘Partial Response Network (PRN)’라 부를 수 있으며, 각 입력이 로그오즈(logit)에 기여하는 양을 명확히 시각화할 수 있는 노모그램 형태로 표현된다.

성능 평가에서는 UCI와 Kaggle 등에서 제공되는 여러 표형 데이터셋을 사용했다. PRN은 원본 MLP와 거의 동일하거나 약간 높은 정확도를 기록했으며, GBM, SVM, 랜덤 포레스트와 같은 최신 비선형 모델 대비 경쟁력을 유지했다. 특히, SAM(Sparse Additive Model)과 비교했을 때, PRN은 스플라인 노드 설정이 필요 없는 자유로운 비선형 표현력을 제공하면서도 비슷한 예측 성능을 보였다.

이 방법의 장점은 크게 세 가지로 요약할 수 있다. 첫째, 모델 구조를 데이터‑드리븐 방식으로 자동 추출함으로써 사전 설계 비용을 크게 절감한다. 둘째, 부분함수별 가중치가 직접 해석 가능하므로, 의료·금융 등 규제·설명 책임이 중요한 분야에 바로 적용할 수 있다. 셋째, 기존 딥러닝 모델의 비선형 표현력을 유지하면서도 로지스틱 회귀 수준의 투명성을 제공한다는 점이다. 다만, 현재 구현은 2차 상호작용까지만 고려하고 있어 고차원 상호작용을 포착하려면 추가 연구가 필요하다. 또한, ANOVA 분해 과정에서 MLP의 복잡도가 지나치게 높을 경우 계산 비용이 급증할 수 있다는 점도 실용적 제한으로 남는다.

전반적으로, 본 논문은 ‘해석 가능성’과 ‘예측 성능’ 사이의 전통적 트레이드오프를 완화하는 실용적인 프레임워크를 제시하며, 딥러닝 기반 모델을 규제‑중심 산업에 도입하려는 연구자와 실무자에게 중요한 참고 자료가 될 것이다.