디리클레 에너지와 그래프 신경망 과도 평활성 측정의 차이

초록

본 논문은 비정규화 라플라시안과 정규화 라플라시안이 유도하는 디리클레 에너지를 과도 평활성 측정값으로 비교한다. 정규화 라플라시안 기반 에너지는 Rusch 등(2021)의 노드‑유사성 공리 중 “동일한 임베딩이면 값이 0이어야 한다”를 위반함을 증명하고, 두 라플라시안이 일반 그래프에서 교환되지 않아 동시에 대각화될 수 없음을 보인다. 따라서 GNN 설계 시 사용되는 라플라시안과 일치하는 에너지만이 의미 있는 평활성 지표가 된다.

상세 분석

논문은 먼저 그래프 신경망(GNN)에서 과도 평활성(over‑smoothing)을 정의하는 공리 체계를 소개한다. Rusch et al.이 제시한 두 번째 공리(모든 노드 임베딩이 동일한 상수 벡터 ⇔ 측정값이 0)와 첫 번째 공리(삼각 부등식)만을 만족하는 함수가 진정한 노드‑유사성 측정이라고 가정한다. 이때 전통적으로 사용되는 디리클레 에너지 EΔ는 비정규화 라플라시안 Δ에 의해 정의되며, EΔ의 제곱근 √EΔ는 위 공리를 만족한다. 반면, 정규화 라플라시안 Δnorm에 의해 정의된 에너지 EΔnorm은 그래프가 정규(regular)하지 않은 경우, 모든 노드가 동일한 상수값을 가질 때도 0이 되지 않는다. 구체적으로 EΔnorm은 ‖c·1/√d – c·1/√d‖² 형태가 아니라, 각 노드의 차수가 다르면 남는 항이 존재한다. 따라서 정규화 라플라시안 기반 에너지는 첫 번째 공리를 위반한다는 것이 논문의 핵심 주장이다.

이 위반을 수학적으로 뒷받침하기 위해 저자는 Δ와 Δnorm이 일반적인 연결 그래프에서 교환하지 않음을 보인다.