그래프 신경망 읽기 단계의 대칭 병목을 깨다

초록

본 논문은 그래프 신경망(GNN)의 읽기(readout) 단계가 선형 퍼뮤테이션 불변 풀링(합·평균)일 경우, 모든 비자명 대칭 성분을 레이놀즈 연산자를 통해 고정 부분공간으로 투사한다는 사실을 증명한다. 이로 인해 인코더가 얼마나 표현력이 뛰어나도 비트리비얼(비자명) 정보는 소멸한다. 이를 극복하기 위해 저자들은 자동사상에 대한 투영기를 이용해 노드 임베딩을 대칭‑인식 채널로 분해하고, 각 채널을 비선형 불변 통계량으로 요약하는 ‘프로젝터 기반 불변 읽기’를 제안한다. 실험적으로 읽기만 교체해도 WL‑hard 그래프 쌍을 구분하고 여러 벤치마크에서 성능이 향상됨을 보이며, 읽기 설계가 GNN 표현력에 핵심적임을 강조한다.

상세 분석

이 논문은 GNN의 표현력 제한을 기존에는 메시지 패싱 단계에만 초점을 맞추어 왔던 점을 넘어, 읽기 단계 자체가 독립적인 병목을 형성한다는 새로운 관점을 제시한다. 저자들은 유한 차원 복소수 표현론을 활용해, 노드 임베딩 공간 U에 작용하는 노드 순열군 H의 표현 ρ를 정의하고, 모든 선형 H‑불변 함수 f:U→U′가 레이놀즈 연산자 p_avg=|H|⁻¹∑{h∈H}ρ(h) 를 통해 트리비얼(고정) 부분공간 U₁으로 먼저 투사된 뒤, 그 결과에만 의존한다는 정리를 증명한다(정리 3.3). 이는 합·평균 풀링이 실제로는 평균 연산을 넘어, 전체 표현을 트리비얼 아이소타입 성분으로 압축한다는 의미이며, 비자명 아이소타입(예: 대칭에 따라 변하는 고유표현)에서 인코더가 학습한 정보는 완전히 사라진다. 특히, S{|V|} 전체 대칭군을 고려하면 U₁은 1차원(모든 노드의 평균)이며, 이는 기존 GNN이 WL‑1 수준을 초과하는 구조를 포착하더라도 읽기 단계에서 그 차이를 소멸시킨다.

이를 구체적인 예시(그림 1의 두 그래프)와 함께 설명하면서, 두 그래프는 1‑WL에 의해 구분되지 않지만, 비트리비얼 성분을 활용한다면 구분 가능함을 보인다. 기존 선형 읽기는 이러한 비트리비얼 성분을 무시하므로 두 그래프를 동일하게 처리한다.

극복 방안으로 제안된 ‘프로젝터 기반 불변 읽기’는 자동사상 Aut(G) 에 대한 투영기 p_i = dim(W_i)/|H| ∑_{h∈H} χ_i(h) ρ(h) 를 이용해 U를 트리비얼 채널 U₁과 비트리비얼 아이소타입 채널 U₂,…,U_m 으로 분해한다. 각 채널에 대해 절댓값, 제곱합, 최대값 등 비선형 불변 통계량을 적용함으로써, 선형 평균이 놓친 정보를 보존한다. 이 설계는 여전히 그래프 자동사상에 대해 불변성을 유지하면서, 비선형성을 도입해 레이놀즈 연산자의 투사 효과를 회피한다.

실험에서는 고정된 메시지 패싱 인코더에만 읽기만 교체했음에도 불구하고, WL‑hard 그래프 쌍을 성공적으로 구분하고, ZINC, ogbg‑molpcba 등 실세계 베치마크에서 정확도·AUC가 향상되었다. 이는 읽기 단계가 GNN 전체 표현력에서 차지하는 비중이 생각보다 크며, 기존 설계가 과소평가되어 왔음을 시사한다.

이 연구는 GNN 설계에서 ‘읽기’를 단순한 집계가 아니라, 대칭 구조를 활용한 정보 보존 메커니즘으로 재고해야 함을 강력히 주장한다.