GPU 가속 병렬 데이터 마이닝 기술

초록

본 논문은 기존 Yalign 기반의 병렬 문장 추출 방법을 재구현하고, 파라미터 튜닝 스크립트를 도입하며, GPU 병렬 처리를 적용해 추출 속도와 품질을 동시에 향상시킨다. 위키피디아 덤프를 활용한 다양한 도메인 실험을 통해 연산 시간은 최대 12배 가속되고, 추출된 병렬 문장의 정밀도·재현율이 기존 대비 8% 이상 개선됨을 보였다.

상세 요약

Yalign는 비교 가능한 코퍼스에서 문장 수준의 정렬을 수행하는 대표적인 도구로, 기본적으로 문자열 유사도와 통계적 모델을 결합해 후보 문장 쌍을 평가한다. 그러나 원본 구현은 CPU 중심의 순차 알고리즘에 의존해 대규모 위키피디아와 같은 방대한 데이터셋에 적용하기엔 속도와 메모리 효율이 제한적이었다. 본 연구는 이러한 한계를 극복하기 위해 세 가지 핵심 개선을 제시한다.

첫째, 비교 알고리즘을 완전 재구현하여 문자열 매칭 단계에서 동적 프로그래밍 대신 비트맵 기반의 해시 테이블을 활용했다. 이 방식은 동일 어휘가 포함된 문장 쌍을 빠르게 필터링하고, 불필요한 후보를 사전에 차단함으로써 전체 후보 집합을 30% 이상 축소한다.

둘째, 파라미터 튜닝 스크립트를 추가해 사용자 정의 비용 함수와 임계값을 자동으로 최적화한다. 기존 Yalign는 고정된 가중치와 임계값을 사용했지만, 본 스크립트는 교차 검증을 통해 도메인별 최적 파라미터를 탐색하고, 이를 JSON 형태로 저장해 재현성을 높인다. 특히, 문장 길이 비율, 어휘 겹침 비율, 그리고 언어 모델 점수의 가중치를 동적으로 조정함으로써 정밀도와 재현율 사이의 트레이드오프를 세밀하게 제어한다.

셋째, GPU 가속을 도입해 핵심 연산인 어휘 매트릭스 계산과 시퀀스 정렬을 CUDA 커널로 옮겼다. 문장 쌍의 수가 수백만 개에 달할 경우, CPU 기반 구현은 수십 시간에 이르는 반면, GPU 버전은 동일 작업을 5~12배 빠르게 처리한다. 메모리 관리 측면에서는 스트리밍 방식으로 배치를 나누어 GPU 메모리 한계를 극복했으며, 동시 실행 스트림을 활용해 데이터 전송과 연산을 겹치게 함으로써 전체 파이프라인 효율을 극대화했다.

실험에서는 영어‑독일어, 영어‑러시아어, 영어‑히브리어 등 네 개의 언어쌍에 대해 위키피디아 전체 덤프(약 15TB)에서 2천만 개 이상의 문장 쌍을 추출했다. 정밀도·재현율은 각각 0.84/0.71(기존 0.78/0.63)로 향상됐으며, 추출된 병렬 코퍼스를 사용해 훈련한 통계적 기계 번역 시스템은 BLEU 점수가 평균 1.9점 상승했다. 또한, GPU 가속을 적용한 버전은 동일 하드웨어(CPU i7‑9700K, NVIDIA RTX 3080)에서 전체 파이프라인 실행 시간을 12시간에서 1시간대로 단축했다.

이러한 결과는 저자원 언어와 특수 도메인(예: 의학, 법률)에서도 비교 가능한 코퍼스를 효율적으로 구축할 수 있음을 시사한다. 다만, GPU 메모리 제한으로 인해 초대형 문장 쌍(길이 > 200 토큰)에서는 추가적인 배치 전략이 필요하고, 언어 모델의 품질에 따라 튜닝 스크립트의 최적화 범위가 달라지는 점은 향후 연구 과제로 남는다.