그래프 컨볼루션의 한계와 극복 방안: SCA와 CD 현상의 이론적 해석

초록

**
본 논문은 메시지 패싱 신경망(MPNN)의 두 가지 핵심 제한 요인인 공유 구성 요소 증폭(SCA)과 구성 요소 지배(CD)를 이론적으로 규명한다. SCA는 모든 특성 채널에 동일한 성분이 반복적으로 증폭되는 현상이며, CD는 메시지 패싱 단계가 늘어날수록 특정 성분이 과도하게 강조되는 현상이다. 두 현상은 노드 표현의 랭크 붕괴, 즉 기존의 오버‑스무딩을 일반화한 현상을 초래한다. 이를 해결하기 위해 다중 관계 분할(MRS) 프레임워크와 다중 입력‑다중 출력 그래프 컨볼루션(MIMO‑GC), 그리고 개인화 페이지랭크 기반 무한 메시지 패싱 변형을 제안한다.

**

상세 분석

**
본 연구는 그래프 신경망 분야에서 오랜 기간 논의되어 온 “오버‑스무딩” 현상을 보다 근본적인 수준에서 재해석한다. 기존 연구들은 주로 깊은 레이어를 쌓을수록 노드 임베딩이 서로 수렴해 정보 손실이 발생한다는 점에 주목했지만, 그 메커니즘에 대한 명확한 수학적 설명은 부족했다. 저자는 두 가지 구조적 특성을 정의한다. 첫 번째인 공유 구성 요소 증폭(Shared Component Amplification, SCA) 은 메시지 패싱 연산이 모든 특성 채널에 동일한 선형 변환(예: 라플라시안 행렬) 을 적용함으로써, 각 단계마다 동일한 고유벡터가 동일한 비율로 증폭되는 현상을 의미한다. 이때 고유벡터는 그래프의 스펙트럴 구조를 반영하므로, 반복적인 증폭은 결국 저차원 고유공간으로의 수렴을 초래한다. 두 번째인 구성 요소 지배(Component Dominance, CD) 는 특정 고유값(특히 가장 큰 고유값)에 대응하는 고유벡터가 다른 성분에 비해 상대적으로 더 크게 증폭되는 현상이다. CD는 메시지 패싱 단계가 증가함에 따라 지배적인 고유벡터가 전체 표현을 장악하게 만들며, 이는 기존 오버‑스무딩이 “전체가 동일해지는” 현상을 “특정 방향으로만 수렴하는” 현상으로 일반화한다.

수학적으로 저자는 메시지 패싱을 행렬 곱셈 형태로 전개하고, 각 단계에서의 변환 행렬을 스펙트럴 분해한다. SCA는 변환 행렬이 모든 채널에 대해 동일한 스펙트럼을 갖는 경우에 발생하고, CD는 스펙트럼 중 가장 큰 고유값이 1에 가까울 때 지배한다는 조건을 제시한다. 이러한 분석을 통해 기존의 GCN, GraphSAGE, GAT 등 다양한 MPNN 구조가 본질적으로 SCA와 CD에 취약함을 보인다.

제안된 다중 관계 분할(Multi‑Relational Split, MRS) 프레임워크는 하나의 그래프를 여러 개의 관계(엣지 타입)로 분할하고, 각 관계마다 독립적인 메시지 패싱을 수행한다. 관계마다 서로 다른 스펙트럴 특성을 갖게 함으로써 SCA를 완화한다. 또한 다중 입력‑다중 출력 그래프 컨볼루션(MIMO‑GC) 은 다채널 입력을 다중 스펙트럼 필터링으로 동시에 처리하고, 각 채널에 서로 다른 라플라시안 기반 변환을 적용한다. 이는 자연스럽게 다중 관계를 활용하는 구조이며, 로컬 근사 버전인 LMGC 를 통해 계산 효율성을 확보한다.

CD 문제에 대해서는 개인화 페이지랭크(Personalized PageRank, PPR) 와의 연관성을 밝혀낸다. PPR은 고유값이 1에 수렴하지 않도록 감쇠 파라미터 α를 도입함으로써 무한히 많은 메시지 패싱을 수행하면서도 초기 특징을 보존한다. 저자는 이를 MPNN에 적용한 PPR‑MPNN 변형을 제안하고, 이론적으로 무한 단계에서도 랭크 붕괴가 일어나지 않음을 증명한다.

실험적으로는 여러 벤치마크(OGB‑Products, Cora, PubMed 등)에서 MRS, MIMO‑GC, LMGC, PPR‑MPNN을 기존 모델과 비교했으며, 특히 깊은 레이어(>30)에서도 성능 저하 없이 안정적인 학습을 달성했다. 이는 제안된 프레임워크가 SCA와 CD를 효과적으로 억제함을 실증한다.

**