비희소 그래프와 하이퍼그래프를 위한 저랭크 그래프 컨볼루션 네트워크

** 본 논문은 그래프 컨볼루션 네트워크(GCN)가 비희소 그래프와 하이퍼그래프에서 직면하는 계산 복잡도 문제를 해결하고자 저랭크 필터와 모델 차원 축소 기법을 도입한다. 먼저, 전통적인 GCN은 라플라시안 L의 고유값 분해를 이용해 스펙트럼 필터 K^{(k)} = U ϕ_k(Λ) Uᵀ 를 구성한다. 희소 그래프에서는 다항식 기반 ϕ_k가 L의 희소 구조를 유지해 효율적이지만, 비희소 그래프에서는 K^{(k)}가 완전 행렬이 되어 O(n²) 연산이 필요하고, 이는 대규모 데이터에 비현실적이다. 이를 극복하기 위해 저자들은 라플라시안의 지배적인 r개의 고유값·고유벡터만을 사용해 저랭크 근사 K̂ = U_r ϕ(Λ_r) U_rᵀ 를 만든다. 여기서 ϕ는 설계 원칙(DP1‑DP3)을 만족하도록 선택한다. DP1은 전체 고유값 분해 없이 부분 고유쌍만으로 K̂을 구성하도록 요구하고, DP2는 K̂·X 연산을 효율적으로 수행하도록 한다. DP3은 작은 고유값(클러스터링 정보)을 강조하고 큰 고유값(노이즈)를 억제하도록 ϕ의 형태를 제한한다. 예를 들어 ϕ(λ)=1/λ (λ>0)와 같은 의사역행렬 필터는 클러스터링 벡터를 크게 증폭시켜 정확도를 높인다. 저랭크 근사는 두 가지 주요 이점을 제공한다. 첫째, 행렬-벡터 곱이 O(n r) 로 감소해 비희소 그래프에서도 실시간 학습·추론이 가능하다. 둘째, 부분 고유값만 필요하므로 초기 전처리 비용이 크게 낮아진다. 또한, 동일한 r개의 지배 고유벡터를 여러 필터에 공유함으로써 네트워크 전체가 저랭크 구조를 유지한다. 다음으로 저자들은 스펙트럼 영역에서 활성화 함수를 적용하는 ‘축소 차수 GCN(R‑GCN)’을 제안한다. 기존 GCN은 각 레이어마다 K^{(k)}·X 연산 후 σ를 적용한다. 저랭크 구조에서는 U_rᵀ·X^{(0)} 로 차원을 r 로 축소하고, 이후 레이어를 X̂^{(l)} = σ(∑ₖ ϕ_k(Λ_r) X̂^{(l‑1)} Θ^{(k,l)}) 로 진행한다. 마지막에 X^{(L)} = U_r X̂^{(L)} 로 복원하면 전체 연산이 r‑차원에서 이루어지므로 메모리 사용량과 연산량이 크게 감소한다. 이는 전통적인 모델 차원 축소(Model Order Reduction)와 동일한 원리를 그래프 신경망에 적용한 사례이다. 하이퍼그래프에 대한 확장도 상세히 다룬다. 하이퍼그래프는 노드 집합을 연결하는 하이퍼엣지로 구성되며, 라플라시안은 L = I − D_V^{-½} H W_E D_E^{-1} Hᵀ D_V^{-½} 로 정의된다. 이 라플라시안은 일반적으로 비희소하지만, 하이퍼엣지 수 |E| 가 노드 수 n 보다 작을 경우 L은 I와 저랭크 행렬의 합으로 표현된다. 따라서 저랭크 필터와 축소 차수 구조를 그대로 적용할 수 있다. 특히 |E| ≪ n 인 경우 K̂·X 연산 복잡도가 O(n |E|) 로 감소해 대규모 하이퍼그래프에서도 효율적인 학습이 가능하다. 실험에서는 2‑D 스파이럴 데이터와 여러 하이퍼그래프 데이터셋을 사용해 기존 Linear, Quadratic 다항식 필터 기반 GCN과 비교했다. 결과는 다음과 같다. (1) 저랭크 GCN(L‑GCN, rank=10)은 학습 시간 0.39 s, 테스트 시간 3.32 s 로 기존 Linear GCN(3.8 s, 2087 s) 대비 10배 이상 빠르다. (2) 축소 차수 GCN(R‑GCN, rank=10)은 학습 0.39 s, 테스트 2.36 s 로 가장 빠른 성능을 보였다. (3) 의사역행렬 필터를 적용한 경우 정확도가 92.23 % 로 최고이며, 이는 기존 다항식 필터(최대 78.54 %)보다 크게 향상된 것이다. 또한, 저랭크 구조가 적용된 경우에도 정확도가 크게 떨어지지 않으며, 경우에 따라 오히려 향상되는 것을 확인했다. 결론적으로, 저랭크 근사와 스펙트럼 활성화 기반 차원 축소는 비희소 그래프와 하이퍼그래프에서 GCN을 실용화하는 핵심 기술이다. 이 접근법은 연산 비용을 크게 낮추면서도 필터 설계 원칙을 만족시켜 클러스터링 정보를 강조하고 노이즈를 억제한다. 향후 연구에서는 자동 랭크 선택, 동적 필터 학습, 비선형 라플라시안 변형, 그리고 다양한 도메인(예: 소셜 네트워크, 생물학적 네트워크)에서의 적용 가능성을 탐색할 여지가 있다. **