경로 기반 관계 추론을 위한 합성 벡터 공간 모델

본 논문은 지식베이스(KB) 완성이라는 과제에 대해 기존 방법들의 한계를 진단하고, 이를 극복하기 위한 새로운 모델을 제안한다. KB 완성은 기존에 존재하는 트리플(엔터티‑관계‑엔터티)로부터 누락된 사실을 추론해 추가하는 작업이며, 특히 다중 홉 관계 경로를 활용한 추론이 중요한데, 기존의 Path Ranking Algorithm(PRA)와 그 변형들은 각 경로를 고유한 이산형 피처로 취급한다. 이러한 접근법은 관계 종류가 수천 개에 달하고, OpenIE와 같은 텍스트 기반 관계가 추가되면 경로 수가 기하급수적으로 증가해 메모리와 계산량이 비현실적으로 커진다. 저자들은 이러한 “피처 폭발” 문제를 해결하고자, 관계를 저차원 실수 벡터로 임베딩하고, 경로를 순차적으로 합성하는 재귀 신경망(RNN) 구조를 도입한다. 구체적인 모델 설계는 다음과 같다. 먼저 모든 이진 관계 δ에 대해 d‑차원 임베딩 v_r(δ) 를 학습한다. 길이 1인 경로는 해당 관계 벡터 자체가 경로 벡터가 된다. 길이 k > 1인 경우, 이전까지 합성된 경로 벡터 v_p(π_{k‑1})와 현재 관계 벡터 v_r(δ_k)를 연결(concatenate)하고, 관계‑별 전용 합성 행렬 W_δ ∈ ℝ^{d×(2d+1)} 와 시그모이드 혹은 tanh와 같은 비선형 함수 f를 적용해 새로운 경로 벡터 v_p(π_k)=f( W_δ