그래프 신경망 설명 품질을 OOD 일반화로 정량화

초록

본 논문은 그래프 신경망(GNN) 설명자의 인과적 타당성을 평가하기 위해, 설명이 포착한 서브그래프를 이용해 모델을 재학습하고 그 모델의 분포 외(OOD) 일반화 성능 향상을 정량화하는 Explanation‑Generalization Score(EGS)를 제안한다. 대규모 실험을 통해 EGS가 기존 충실도·희소도 기반 지표보다 인과적 설명을 더 잘 구분함을 입증한다.

상세 분석

이 연구는 GNN 설명 방법의 평가에 ‘인과성’이라는 핵심 개념을 도입한다. 기존 평가지표인 충실도(fidelity)와 희소도(sparsity)는 모델 예측과 설명 사이의 일치 정도만을 측정하므로, 실제 데이터 생성 메커니즘을 반영하는지 여부를 판단하기 어렵다. 저자들은 인과적 특성이 환경(environment) 변화에 대해 불변(invariant)하다는 가정을 기반으로, 설명이 진정한 인과 서브그래프(C)를 포착한다면 해당 서브그래프만을 이용해 학습한 모델이 다양한 환경(E)에서 안정적인 예측을 수행할 것이라고 주장한다.

이를 검증하기 위해 두 단계의 실험 설계를 제시한다. 첫 번째 단계에서는 인위적으로 만든 합성 데이터와 실제 분자 데이터에서 ‘인과 서브그래프’를 사전에 정의하고, 이를 학습에 직접 활용한 모델이 OOD 상황에서 일반화 성능이 크게 향상되는지를 확인한다. 결과는 인과 서브그래프만을 사용한 모델이 spurious 서브그래프(S)에 의존하는 모델보다 환경 변동에 강인함을 보여준다.

두 번째 단계에서는 다양한 기존 설명기(GNNExplainer, GraphMask, GradCAM 등)로부터 얻은 설명 서브그래프를 ‘제약(Constraint)’ 형태로 모델 학습에 삽입한다. 구체적으로, 설명이 강조한 노드·엣지에 대한 그래디언트를 최소화하고, 비중요 노드에 대한 그래디언트를 억제하는 손실을 추가한다. 이렇게 학습된 Explanation‑Guided GNN(EG‑GNN)의 OOD 테스트 정확도와 기본 GNN의 성능 차이를 정규화한 비율을 EGS로 정의한다.

EGS는 설명기의 인과적 타당성을 정량화하는 단일 지표로, 높은 점수는 해당 설명이 실제 인과 서브그래프와 높은 정합성을 가짐을 의미한다. 논문에서는 11,200개의 모델 조합(다양한 데이터셋, OOD 시나리오, GNN 백본, 교차 검증, 8가지 설명기)을 대상으로 실험을 수행했으며, EGS가 기존 충실도 기반 순위와 일관되지 않음에도 불구하고, 인과적 설명을 더 잘 식별한다는 점을 입증한다.

또한, 이 접근법은 ‘설명 → 모델 → OOD 성능’이라는 순환 구조를 통해 설명 자체를 직접 검증할 수 있다는 점에서 의미가 크다. 즉, 별도의 라벨링 없이도 설명이 실제 인과 구조를 반영하는지를 판단할 수 있다. 다만, 설명을 제약으로 활용하는 과정에서 학습 비용이 증가하고, 설명기의 품질에 따라 모델이 과도하게 제약될 위험도 존재한다.

전반적으로 이 논문은 인과적 설명 평가를 위한 새로운 패러다임을 제시하며, 특히 약물 발견·재료 설계 등 고신뢰성이 요구되는 분야에서 설명의 실질적 가치를 검증하는 데 유용한 도구가 될 것으로 기대된다.