코드 요약을 위한 그래프 신경망 개선

초록

본 논문은 추상 구문 트리(AST)를 그래프 형태로 그대로 보존하고, 이를 ConvGNN으로 인코딩한 뒤 기존의 순차 RNN 인코더와 병합하여 Java 메서드 요약을 생성한다. 2.1 백만 개 이상의 메서드‑주석 쌍을 이용한 실험에서 BLEU 점수가 4.6 % 향상되었으며, 설명가능 AI 기법을 통해 성능 향상의 원인을 분석한다.

상세 분석

이 연구는 코드 요약에 구조적 정보를 효과적으로 활용하기 위해 두 가지 입력 스트림을 동시에 처리한다. 첫 번째 스트림은 기존 연구와 동일하게 토큰 시퀀스를 GRU‑기반 RNN 인코더에 입력하여 순차적 문맥을 학습한다. 두 번째 스트림은 AST를 그래프 형태로 변환한 뒤, 2‑hop ConvGNN(그래프 컨볼루션 신경망)으로 노드 임베딩을 수행한다. ConvGNN은 각 노드가 이웃 노드의 표현을 평균 집계(mean‑aggregator)하고 비선형 변환을 적용함으로써, 트리 구조 내에서 멀리 떨어진 토큰 간의 의미적 연관성을 전파한다. 두 인코더의 출력은 어텐션 메커니즘을 통해 결합되고, 디코더는 동일한 GRU‑기반 구조로 요약 문장을 생성한다.

핵심 기여는 (1) AST를 평탄화하지 않고 그래프 형태 그대로 이용함으로써 구조 손실을 최소화한 점, (2) 순차 인코더와 그래프 인코더를 병렬로 학습시켜 상호 보완적인 특징을 추출한 점이다. 실험에서는 기존 SBT(Structure‑Based Traversal) 기반 모델, AST‑Path 기반 모델, 그리고 단일 GNN 모델을 포함한 네 가지 베이스라인과 비교하였다. BLEU, METEOR, ROUGE‑L 지표 모두에서 평균 3 ~ 5 % 수준의 유의미한 향상을 기록했으며, 특히 복잡한 제어 흐름이나 다중 파라미터를 갖는 메서드에서 개선 폭이 크게 나타났다.

설명가능 AI 분석에서는 그래프 인코더가 ‘function’, ‘parameter’, ‘return type’ 등 핵심 노드에 높은 어텐션 가중치를 부여함을 시각화하였다. 이는 GNN이 코드의 선언적 정보를 효과적으로 포착하고, 순차 인코더가 놓치기 쉬운 구조적 신호를 보완한다는 가설을 뒷받침한다. 또한, 2‑hop 이상으로 깊이를 늘릴 경우 계산 비용이 급증하지만 성능 향상은 미미함을 확인해, 2‑hop 설계가 효율성과 정확도 사이의 최적점임을 제시한다.

전반적으로 이 논문은 그래프 신경망을 기존 시퀀스‑투‑시퀀스 파이프라인에 자연스럽게 통합함으로써 코드 요약 성능을 실질적으로 끌어올렸으며, 향후 다른 소프트웨어 엔지니어링 작업(코드 검색, 버그 탐지 등)에도 확장 가능성을 시사한다.