그래프 신경망의 적응형 재배선이 가져오는 효율성 혁신

초록

본 논문은 Erdős‑Rényi 기반 초기 연결과 가중치 희소화를 결합한 적응형 재배선 기법을 제안한다. GCN·GIN에 적용해 전력망 N‑1 컨틴전시 예측을 실험했으며, 적절한 희소도는 일반화 향상과 메모리·연산 절감에 기여하지만 과도한 희소는 성능 저하를 초래한다는 점을 확인했다.

상세 분석

이 연구는 기존 SET(Sparse Evolutionary Training) 알고리즘을 확장해, 매 epoch마다 고정 비율 ζ 대신 검증 손실에 기반해 ζ를 동적으로 조정하는 적응형 재배선(adaptive rewiring) 방식을 도입하였다. 초기 연결은 Erdős‑Rényi 모델의 ϵ 파라미터로 제어된 확률적 그래프를 사용해 가중치 매트릭스의 희소성을 보장한다. 재배선 단계에서는 가장 작은 절대값 가중치를 프루닝하고, 동일 수의 새로운 무작위 연결을 삽입함으로써 전체 파라미터 수는 유지하면서 토폴로지를 지속적으로 탐색한다.

GNN 구조는 두 가지 대표 모델, GCN과 edge‑feature를 포함한 GINE(GIN‑Extended)으로 구성하였다. GCN은 전통적인 라플라시안 정규화와 노드 특성 집계에 초점을 맞추고, GINE은 노드와 엣지 모두를 MLP 기반 집계에 포함시켜 복합적인 전력망 특성을 포착한다. 실험 데이터는 (1) 분자 그래프인 MUTAG, PROTEINS, (2) 전력망 N‑1 컨틴전시 데이터셋으로, 후자는 실제 전력망 토폴로지를 기반으로 단일 요소 고장 후 안정성 여부를 이진 분류한다.

세 가지 희소도 수준(ϵ = 0.1, 0.3, 0.5)과 두 재배선 전략(고정 ζ = 0.3, 적응형 ζ)으로 교차 실험했으며, 주요 평가지표는 정확도, F1‑score, 메모리 사용량, FLOPs이다. 결과는 다음과 같다. 첫째, 적절한 희소도(ϵ ≈ 0.3)에서는 dense 모델 대비 30 %~45 % 메모리 절감과 25 %~40 % 연산량 감소를 달성하면서도 정확도 손실이 1 % 이내에 머물렀다. 둘째, 적응형 재배선은 고정 ζ에 비해 검증 손실이 감소하는 시점에 ζ를 자동 축소함으로써, 학습 초기에 탐색성을 확보하고 후반에 안정성을 높여 최종 정확도를 평균 1.2 % 향상시켰다. 셋째, 과도한 희소도(ϵ ≥ 0.5)는 메시지 패싱 단계에서 정보 흐름이 차단돼 오버스쿼싱 현상이 심화되고, 특히 깊은 GINE 모델에서 성능 급락을 보였다. 넷째, 전력망 N‑1 실험에서는 GINE‑adaptive가 GCN‑fixed보다 높은 재현율(Recall ≈ 0.92)을 기록했으며, 이는 엣지 특성을 활용한 모델이 전력선 고장 패턴을 더 잘 포착함을 시사한다.

한계점으로는 재배선 비율 ζ의 초기값 선택이 실험마다 민감하게 작용하고, 적응형 스케줄링이 검증 데이터에 과도하게 의존할 위험이 있다. 또한, 현재는 재배선이 무작위 연결을 삽입하는 방식이라, 구조적 의미를 갖는 재배선(예: 커뮤니티 기반)과의 비교가 부족하다. 향후 연구에서는 메타러닝 기반 ζ 예측, 그래프 구조 보존을 위한 제약 조건, 그리고 대규모 실시간 전력망 운영에 적용 가능한 온라인 재배선 메커니즘을 탐색할 필요가 있다.