그래프 분류를 위한 조건부 분포 학습

초록

**
본 논문은 그래프 대비 학습(GCL)에서 발생하는 메시지 전달 메커니즘과 부정 쌍 대비 학습 간의 충돌을 해소하고, 약·강 강화 데이터 증강이 그래프의 본질적 의미를 훼손하지 않도록 조건부 분포 정렬을 도입한 새로운 반감독 학습 프레임워크인 CDL(Conditional Distribution Learning)을 제안한다. 약한 증강과 강한 증강의 노드 임베딩을 원본 임베딩에 대한 조건부 확률분포로 모델링하고, 두 분포를 정렬함으로써 의미 보존과 표현 다양성을 동시에 달성한다. 실험 결과, 여러 벤치마크 그래프 데이터셋에서 기존 최첨단 방법들을 능가한다는 것을 입증한다.

**

상세 분석

**
본 연구는 그래프 신경망(GNN)의 메시지 전달 메커니즘(Message‑Passing Mechanism, MPM)이 깊은 층을 거칠수록 노드 임베딩을 점점 유사하게 만든다는 사실과, 그래프 대비 학습(Graph Contrastive Learning, GCL)이 부정 쌍(negative pair) 간의 거리 확대를 목표로 한다는 점 사이에 내재된 모순을 지적한다. 이러한 모순은 특히 동일 그래프 내에서 서로 다른 증강 뷰(weak view, strong view)를 활용할 때, 동일 노드가 동시에 양성(positive)과 부정(negative) 손실에 기여하면서 학습 불안정을 야기한다.

이를 해결하기 위해 저자들은 두 단계의 핵심 아이디어를 제시한다. 첫 번째는 조건부 분포 정렬이다. 원본 노드 임베딩 (h_i)와 약하게 증강된 임베딩 (h_i^{w}), 강하게 증강된 임베딩 (h_i^{s}) 사이의 조건부 확률분포 (p(h_i^{w}|h_i))와 (p(h_i^{s}|h_i))를 각각 코사인 유사도 기반 소프트맥스 형태로 정의하고, 두 분포의 KL‑다이버전스 혹은 교차 엔트로피 형태의 손실 (L_d)를 최소화한다. 이렇게 하면 강한 증강이 원본 구조를 과도하게 왜곡하더라도, 약한 증강을 매개로 한 조건부 분포와의 정렬을 통해 의미적 일관성을 유지한다.

두 번째는 양성 쌍만을 이용한 유사도 손실이다. 기존 GCL이 부정 쌍을 활용해 전체 임베딩 공간을 확장시키는 반면, CDL은 원본과 약한 증강 사이의 유사도만을 강화한다. 구체적으로는 (\mathcal{L}{sim}= -\frac{1}{n}\sum_i \log \frac{\exp(\text{sim}(h_i, h_i^{w})/\tau)}{\sum{k\neq i}\exp(\text{sim}(h_i, h_k^{w})/\tau)}) 형태의 NT‑Xent 손실을 적용한다. 이 설계는 MPM이 만든 동일 노드 간의 유사성을 억제하지 않고, 오히려 강화함으로써 메시지 전달과 대비 학습 사이의 충돌을 자연스럽게 해소한다.

모델 아키텍처는 (1) 공유 GNN 인코더(예: GCN), (2) 그래프 풀링 레이어를 통한 그래프‑레벨 임베딩 (H, H^{w}, H^{s}), (3) 두 층 MLP로 구성된 프로젝션 헤드 (P, P^{w}) 로 구성된다. 사전 학습 단계에서는 원본과 약한 증강 사이의 조건부 분포 정렬과 유사도 손실을 동시에 최적화하고, 이후 미세 조정 단계에서는 라벨이 있는 그래프에 대해 교차 엔트로피 손실을 추가해 반감독 분류 성능을 끌어올린다.

실험에서는 MUTAG, PROTEINS, COLLAB, REDDIT‑BINARY 등 7개의 공개 벤치마크를 사용했으며, 라벨 비율을 10 %까지 낮춘 상황에서도 기존 GCL 기반 방법(G-InfoMax, GraphCL, MVGRL 등) 대비 평균 2–4 %p 이상의 정확도 향상을 기록했다. 특히 강한 증강(엣지 삭제·추가, 속성 마스킹) 비율을 30 %까지 높였을 때도 성능 저하가 미미했으며, 이는 제안된 조건부 분포 정렬이 의미 손실을 효과적으로 억제함을 입증한다.

요약하면, CDL은 (1) 약·강 증강 사이의 조건부 분포를 정렬해 의미 보존, (2) 양성 쌍만을 이용해 부정 쌍에 의한 메시지 전달 충돌을 회피, (3) 사전 학습 + 미세 조정이라는 두 단계 반감독 학습 흐름을 도입함으로써 그래프 대비 학습의 핵심 한계를 혁신적으로 해결한다.

**