특징 중요도 순위 측정법

논문은 먼저 복잡한 특징 공간을 활용하는 현대 머신러닝 모델이 높은 예측 정확도를 제공하지만, 인간이 이해하기 어려운 ‘블랙박스’ 형태가 된다는 문제점을 제시한다. 기존의 해석 방법으로는 선형 모델의 가중치를 직접 해석하거나, 변수 선택 기법(LASSO, Elastic Net 등)을 적용하는 것이 일반적이다. 그러나 이러한 접근법은 특성 간 상관관계를 무시하거나, 모델 자체를 단순화함으로써 예측 성능을 희생한다는 한계가 있다. 이를 극복하고자 저자들은 Feature Importance Ranking Measure(FIRM)를 고안한다. FIRM은 임의의 학습기—선형 회귀, 서포트 벡터 머신, 커널 리그레션, 트리 기반 모델 등—에 대해 사후 분석을 수행한다. 구체적인 절차는 다음과 같다. (1) 학습된 모델의 예측 함수를 f(x)라 할 때, 각 특성 j에 대해 x_j를 고정하고 나머지 특성들을 조건부 확률분포에 따라 평균화한다. 이는 E