스트리밍 관계 데이터에서 구조 선택하기

본 논문은 관계형 데이터베이스 혹은 그래프 형태의 대규모 데이터에서 인간이 설계한 관계 특징(Feature)을 효율적으로 평가하고 선택하는 새로운 프레임워크 RESOLWE( Relational Structure Selection from Online Light‑Weight Evaluation)를 제안한다. 기존의 SR(Statistical Relational) 학습에서는 두 가지 접근법이 주를 이뤘다. 첫 번째는 인간 전문가가 도메인 지식을 바탕으로 특징을 직접 정의하고, 파라미터만 학습하는 전통적인 ‘Trial‑and‑Error’ 방식이며, 두 번째는 구조 학습을 통해 특징과 파라미터를 자동으로 유도하는 방법이다. 후자는 최근 여러 연구에서 성능이 입증됐지만, 후보 구조를 평가하기 위해 전체 데이터가 메모리에 적재돼야 한다는 전제가 있다. 이는 데이터가 너무 크거나 실시간으로 유입되는 경우 적용이 어려워, 실제 많은 SRL 프로젝트에서는 여전히 첫 번째 방식을 선호한다. RESOLWE는 이러한 현실적 제약을 극복하고자, (1) 스트림 형태로 도착하는 서브그래프를 순차적으로 처리하고, (2) 후보 공식들을 경량화된 통계 기준으로 빠르게 평가하며, (3) 최종적으로 선별된 공식에 대해 파라미터 학습을 수행한다는 3단계 파이프라인을 설계한다. **1) 후보 공식 생성** 논문에서는 선언적 바이어스(Declarative Bias)를 사용해 모든 가능한 후보 공식 집합 F를 생성한다. 바이어스는 일종의 문법 템플릿으로, 예를 들어 “두 엔티티 사이에 특정 관계가 존재하면 타깃 관계가 발생한다”와 같은 형태를 정의한다. 이 템플릿에 따라 자동으로 조합을 만들고, 실제 데이터에 아직 접근하지 않아도 후보를 미리 준비한다. **2) 경량 평가 기준** 각 공식 F는 ‘선택자(E)’와 ‘강제자(Q)’로 분리된다. E는 증거(predicates in PE) 리터럴들로 구성되어, 해당 그라운딩이 만족될 때만 Q를 적용한다. Q는 타깃(predicates in PT) 리터럴들로, 실제 예측하고자 하는 관계를 나타낸다. 두 가지 평가 기준이 제안된다. - **균일성(Uniformity) 기준**: 선택자에 의해 선택된 Q‑그라운딩들 중에서 Q가 나타내는 패턴이 얼마나 일관되게 나타나는지를 측정한다. 구체적으로는 P_EQ(Q) 혹은 1‑P_EQ(Q) 중 큰 값을 최대화한다. 이는 공식이 ‘정확하게’ 혹은 ‘반대로 정확하게’ 동작하는 경우 모두를 포괄한다. - **거리(Distance) 기준**: 선택된 그라운딩 집합의 분포 P_EQ와 전체 그라운딩 집합의 기본 분포 P_All 사이의 차이를 측정한다. KL‑발산이나 기타 통계적 거리 측정법을 사용할 수 있다. 관계 도메인이 일반적으로 희소(sparse)하다는 가정 하에, P_All은 대부분 ‘거짓’ 할당에 치우친 베르누이 혹은 다항 분포로 근사한다. 이를 통해 Q가 1개 리터럴일 때는 단순히 양성 비율을, Q가 2개 리터럴일 때는 ‘동시 양성’ 혹은 ‘조건부 양성(→)’ 확률을 계산해 두 기준을 동시에 만족하는 공식만을 선택한다. **3) 알고리즘 흐름** 알고리즘 1에 요약된 바와 같이, 초기 k₁개의 서브그래프는 후보 생성에만 사용하고, 실제 평가 단계에서는 다음 k₂개의 서브그래프를 순차적으로 읽으며 각 공식에 대해 위 두 기준을 계산한다. 사전 정의된 임계값 θ를 초과하는 공식은 F*에 보관된다. 이후 남은 스트림(또는 전체 데이터)으로 F*에 포함된 공식들의 가중치를 학습한다. **4) 구현 및 실험** RESOLWE는 Markov Logic Network(MLN) 위에 구현되었으며, Alchemy 라이브러리를 활용한다. 두 개의 소셜 미디어 태스크가 실험에 사용되었다. 첫 번째는 트위터에서 사용자 간 리트윗 전파를 예측하는 작업이며, 두 번째는 페이스북 포스트에 대한 ‘좋아요’ 예측이다. 각각 수천 개의 후보 공식이 생성되었고, 기존 배치 기반 구조 학습(전체 데이터에 대해 후보를 평가하고 선택)과 비교했을 때, RESOLWE는 (a) 후보 선별 단계에서 5~10배 빠른 처리 속도, (b) 최종 모델의 AUC가 2~4% 상승하는 성능 향상을 보였다. 특히 데이터가 스트림 형태로 도착하거나 메모리 제한이 있는 환경에서도 평가 정확도가 크게 떨어지지 않는 점이 강조된다. **5) 논의 및 한계** RESOLWE의 장점은 (1) 메모리 효율성 – 전체 그래프를 저장하지 않아도 된다는 점, (2) 실시간 적용 가능성 – 스트림 데이터를 즉시 활용할 수 있다는 점, (3) 인간이 제공한 바이어스를 그대로 활용하면서도 자동으로 최적 공식만을 추출한다는 점이다. 그러나 몇 가지 제한점도 존재한다. 첫째, 희소성 가정에 크게 의존하므로, 관계가 밀집된 도메인에서는 P_All을 정확히 추정하기 어려워 평가 정확도가 떨어질 수 있다. 둘째, 후보 생성 단계가 선언적 바이어스에 전적으로 의존하므로, 바이어스가 부적절하면 탐색 공간이 제한돼 좋은 공식이 놓칠 위험이 있다. 셋째, 현재 구현은 MLN의 합성곱 형태에 국한되며, 다른 SRL 프레임워크(예: ProbLog, Relational Bayesian Networks)로의 확장은 추가 연구가 필요하다. **6) 향후 연구 방향** 저자는 향후 연구에서 (a) 비희소 도메인을 위한 대체 기본 분포 모델링, (b) 바이어스 자동 학습 혹은 데이터‑드리븐 바이어스 생성 기법, (c) RESOLWE를 다른 SRL 프레임워크와 통합하여 범용성을 높이는 작업을 제안한다. 또한, 스트림 데이터의 개념 드리프트를 감지하고 동적으로 후보를 재평가하는 메커니즘을 추가하면, 실시간 소셜 네트워크 분석 등 더욱 다양한 응용 분야에 적용 가능할 것으로 기대한다.