교차 도메인 그래프 프롬프트링을 위한 적응형 융합 GP2F

초록

본 논문은 사전 학습된 그래프 신경망(GNN)을 고정한 “프리징” 브랜치와 경량 어댑터를 삽입한 “어댑티드” 브랜치를 동시에 활용하는 이중‑브랜치 구조 GP2F를 제안한다. 두 브랜치의 출력을 이론적으로 평균제곱오차(MSE)가 최소가 되는 가중치로 융합하고, 위상 일관성을 보장하기 위해 대조 손실과 토폴로지‑일관 손실을 도입한다. 정리된 이론은 단일 브랜치보다 융합된 표현이 더 작은 추정 오차와 낮은 분류 오류 상한을 갖는다는 것을 증명한다. 실험에서는 교차‑도메인 few‑shot 노드·그래프 분류에서 기존 GPL 방법들을 크게 앞선다.

상세 분석

GP2F는 교차‑도메인 그래프 프롬프트 학습에서 “프리징”과 “어댑테이션”이라는 두 극단을 동시에 구현한다는 점에서 혁신적이다. 논문은 먼저 사전 학습된 GNN을 그대로 사용한 Linear Probing(LP)과 전체 파라미터를 미세조정하는 Full‑Fine‑Tuning(FT)이 교차‑도메인 상황에서도 강력한 베이스라인임을 실험적으로 확인한다. 이를 바탕으로 두 브랜치를 각각 ‘냉동’(h_g)과 ‘적응’(h_a)으로 모델링하고, 각각이 동일한 잠재 표현 z에 대한 무편향(no bias) 추정값이라고 가정한다.

오차 모델(ε_g, ε_a)은 평균이 0이고 서로 다른 분산(σ_g², σ_a²) 및 공분산(ρ)을 가진다. 두 추정값을 λ 가중치로 선형 결합한 ˜z(λ)=λh_g+(1‑λ)h_a는 여전히 무편향이며, MSE는 λ에 대한 2차 함수 형태임이 증명된다. 최적 λ* = (σ_a²‑ρ)/(σ_g²+σ_a²‑2ρ) 가 0과 1 사이에 존재함을 보이며, 이때의 MSE는 개별 브랜치보다 항상 작다(정리 3.4). 따라서 두 브랜치를 적절히 융합하면 이론적으로 더 정확한 잠재 표현을 얻을 수 있다.

GP2F는 이 이론을 실현하기 위해 다음과 같은 설계를 채택한다. (1) 고정 브랜치: 사전 학습된 GNN g_θ를 그대로 사용해 H_pre을 얻는다. (2) 어댑티드 브랜치: 동일한 GNN에 레이어별 경량 어댑터 A(l) (다운‑프로젝션‑ReLU‑업‑프로젝션)를 삽입해 H_adp = f_ϕ(g_θ(G))를 만든다. 어댑터의 스케일 β(l)은 초기에는 매우 작게 초기화해 사전 학습된 지식을 급격히 파괴하지 않도록 한다.

두 브랜치의 출력은 α∈