데이터플로우 그래프 동등성 검증을 위한 그래프‑투‑시퀀스 신경망

초록

본 논문은 데이터플로우 그래프 형태로 표현된 두 프로그램이 의미적으로 동일한지 판단하기 위해, 의미 보존 리라이트 규칙의 연속을 자동으로 생성하는 그래프‑투‑시퀀스 신경망(pe‑graph2seq)을 제안한다. 100여 개의 선형대수 연산 axioms를 활용해 자동 생성된 학습 데이터를 기반으로 모델을 학습시켰으며, 30‑연산 규모의 프로그램 쌍 10,000개에 대해 96 %의 정확도로 올바른 리라이트 시퀀스를 출력한다. 출력된 시퀀스는 선형 시간 내에 검증 가능하므로, 프로그램 동등성에 대한 형식적 증명을 제공한다.

상세 분석

이 연구는 프로그램 동등성 문제를 “두 그래프 사이에 의미 보존 리라이트 규칙을 적용해 구조적으로 동일하게 만들 수 있는가”라는 탐색 문제로 재정의한다. 기존의 확률적 판단 방식과 달리, 모델이 반환하는 리라이트 시퀀스는 명시적 증명으로 검증 가능하므로 거짓 양성(false positive)을 완전히 배제한다. 핵심 기여는 세 가지이다. 첫째, 그래프‑투‑시퀀스 모델을 최초로 프로그램 동등성에 적용한 점이다. 입력 그래프는 게이티드 그래프 신경망(Gated GNN)으로 인코딩하고, 전역 어텐션과 메모리 기반 LSTM 디코더를 결합해 리라이트 규칙과 적용 위치를 순차적으로 생성한다. 이 설계는 그래프 구조의 크기와 복잡도에 강인하며, 규칙 적용 과정에서 발생하는 노드 추가·삭제·재배치를 자연스럽게 학습한다. 둘째, 자동 예제 생성 파이프라인을 구축해 100 +개의 axioms와 다양한 연산 타입(스칼라, 벡터, 행렬)을 포함하는 선형대수 언어에서 수만 개의 동등/비동등 프로그램 쌍을 합성하였다. 각 쌍은 실제 리라이트 경로(또는 경로 부재)를 라벨링함으로써 지도 학습이 가능하도록 설계되었다. 셋째, 모델 출력의 검증 절차를 선형 시간 알고리즘으로 구현했다. 디코더가 제시한 규칙이 현재 그래프에 적용 가능한지, 적용 후 그래프가 목표 그래프와 동일한지 순차적으로 확인함으로써, 성공 시 형식적 증명을, 실패 시 “동등성 여부를 확신할 수 없음”이라는 확률적 판단만 남긴다. 실험 결과는 두드러진데, 30‑연산 규모의 프로그램에 대해 96 %의 성공률을 보였으며, 평균 추론 시간은 16 ms, 검증 시간은 거의 무시할 수준이다. 또한 빔 서치(beam size = 10)로 10개의 후보 시퀀스를 제시했을 때 95 % 이상이 올바른 결과를 내는 등, 탐색 효율성도 입증하였다. 한계점으로는 비동등 프로그램에 대해 거짓 음성(false negative)이 존재할 수 있다는 점과, axioms 집합이 사전에 정의돼야 한다는 제약이 있다. 그러나 이러한 제약은 도메인‑특화 언어(예: 행렬 연산, 컴파일러 최적화)에서 충분히 관리 가능하며, 실제 교육용 자동 채점, 고성능 라이브러리 매칭 등 실용적 응용 가능성을 크게 확장한다.