메시지 흐름 민감도 기반 구조 설명기 FSX

초록

FSX는 그래프 신경망의 내부 메시지 흐름을 단일 전방 패스에서 민감도 분석으로 추출하고, 이를 기반으로 중요한 서브그래프를 선정한 뒤 흐름‑인식 협동 게임을 통해 노드 기여도를 Shapley‑유사값으로 계산한다. 실험 결과, 기존 방법보다 설명 정확도와 실행 속도 모두에서 우수함을 보인다.

상세 분석

FSX는 기존 설명 기법이 갖는 “효율성‑충실도” 트레이드오프를 해소하고자 두 가지 핵심 아이디어를 결합한다. 첫 번째는 메시지 흐름 민감도 분석이다. 논문은 각 레이어‑엣지 쌍 (u, v, l)에 대해 메시지 벡터 h⁽ˡ⁻¹⁾_u 를 약화(γ·h)시키고, 전체 모델 출력을 다시 계산해 원래 로짓과의 차이를 절댓값으로 정의한다. 이 절차는 단일 전방 패스 내에서 모든 메시지를 순차적으로 교란함으로써, 각 흐름이 예측에 미치는 인과적 기여도를 정량화한다. 기존 Gradient‑기반 방법이 미분값에 의존해 노이즈에 취약한 반면, FSX는 실제 출력 변화를 측정하므로 모델 파라미터에 대한 의존도가 낮고, 흐름 자체의 중요성을 직접 드러낸다.

두 번째는 흐름‑인식 협동 게임이다. 민감도 상위 K개의 흐름을 선택해 해당 노드와 엣지를 집합 V_key, E_key 로 구성한 서브그래프 G_key 를 만든 뒤, 노드 집합을 플레이어로 보는 협동 게임을 정의한다. 가치 함수 ν(S)는 “S가 유지할 수 있는 핵심 흐름의 가중합”을 기반으로 하며, 이는 단순히 예측 점수 감소량이 아니라 흐름의 안정성(예: 다중 레이어에 걸친 메시지 연쇄)까지 고려한다. 이렇게 설계된 ν는 Shapley 값의 공정성을 유지하면서도, 전체 그래프가 아닌 G_key 에 한정해 계산함으로써 조합적 복잡도를 크게 낮춘다. 논문은 근사 샘플링 기법(예: 마르코프 체인 몬테카를로)으로 Shapley‑유사값을 추정하고, 각 노드에 “가중 Shapley 값”을 부여한다.

기술적 강점은 다음과 같다. ① 단일 전방 패스로 흐름 민감도 확보 → GPU 메모리와 연산량이 기존 게임 이론 기반 방법보다 10배 이상 절감. ② 내부 흐름과 외부 구조를 직접 연결 → 설명이 모델 내부 연산과 그래프 토폴로지를 동시에 반영, 해석 가능성이 높아진다. ③ 협동 게임의 가치 함수 설계가 흐름 안정성을 반영해, 단순 특징 중요도보다 더 의미 있는 기여도를 제공한다.

하지만 몇 가지 한계도 존재한다. 흐름 민감도 계산 시 모든 (u, v, l) 쌍을 순회하므로, 레이어가 많고 그래프가 매우 큰 경우(수십만 엣지)에는 여전히 시간·메모리 부담이 있다. γ 값 선택이 결과에 민감할 수 있어, 자동 튜닝 메커니즘이 필요하다. 또한, Shapley 근사 과정에서 샘플 수를 줄이면 정확도가 떨어질 위험이 있어, 실시간 설명 요구 상황에서는 추가 최적화가 요구된다. 전반적으로 FSX는 내부‑외부 정보를 통합한 새로운 패러다임을 제시하지만, 대규모 실용 환경에 적용하기 위한 스케일링 연구가 뒤따라야 한다.