IWSLT 2015 평가를 위한 PJAIT 시스템 비교 코퍼스로 향상

초록

본 논문은 체코‑영어, 베트남‑영어, 프랑스‑영어, 독일‑영어 4개 언어쌍에 대해 통계적 기계번역(SMT) 시스템을 구축하고, 위키피디아 기반 비교 코퍼라를 추가함으로써 번역 품질을 향상시킨 과정을 기술한다. TED 병렬 말뭉치를 학습·튜닝·평가에 활용하고, 도메인 적응, 대칭 정렬, 무지도 전사 모델, KenLM 언어모델 등을 적용하였다. BLEU, NIST, TER 지표 실험 결과, 비교 코퍼라와 적응 기법이 전반적으로 SMT 성능을 크게 끌어올렸음을 확인하였다.

상세 분석

본 연구는 IWSLT 2015 평가 캠페인에 참가하기 위해 네 개의 언어쌍(체코‑영어, 베트남‑영어, 프랑스‑영어, 독일‑영어)에 대해 맞춤형 SMT 파이프라인을 설계하였다. 먼저, 공개된 TED 강연 병렬 코퍼스를 기반으로 기본 번역 모델과 5‑gram 언어 모델을 구축했으며, 이를 토대로 시스템을 초기화하였다. 이후 성능 한계를 극복하기 위해 두 가지 주요 전략을 도입하였다. 첫째, 위키피디아 문서에서 자동으로 추출한 비교 코퍼라를 추가하였다. 이 과정에서 언어별 위키 페이지를 크롤링하고, 문장 수준 정렬을 위해 문서 구조와 메타데이터를 활용했으며, 노이즈를 최소화하기 위해 길이 비율, 어휘 겹침 비율, 번역 확률 기반 필터링을 적용하였다. 결과적으로 약 2백만 문장의 고품질 비교 데이터가 확보되었고, 이는 기존 TED 데이터와 결합되어 훈련 코퍼스 규모를 34배 확대하였다. 둘째, 도메인 적응 기법을 적용하였다. 언어 모델은 KenLM을 이용해 대규모 비교 코퍼라와 TED 데이터를 혼합 학습했으며, 번역 모델은 Moses 툴킷의 GIZA++ 기반 대칭 정렬(symmetrized IBM 모델 4)을 사용해 양방향 정렬을 수행하였다. 또한, 외래어·고유명사 처리에 무지도 전사(transliteration) 모델을 도입해 OOV(out‑of‑vocabulary) 문제를 완화하였다. 실험에서는 각 언어쌍별로 베이스라인 시스템(단순 TED 데이터만 사용)과 비교 코퍼라·도메인 적응을 적용한 시스템을 비교하였다. BLEU 점수는 평균 1.83.2 포인트 상승했으며, NIST와 TER에서도 유의미한 개선이 관찰되었다. 특히 베트남‑영어와 체코‑영어 쌍에서 비교 코퍼라가 제공하는 풍부한 어휘와 구문 패턴이 큰 효과를 보였다. 오류 분석 결과, 문맥 의존성이 높은 구문과 전문 용어 번역에서 개선이 두드러졌으며, 여전히 긴 문장 구조와 복합 명사 처리에서 한계가 남아 있음을 확인하였다. 전반적으로, 비교 코퍼라와 도메인 적응이 SMT 시스템의 일반화 능력을 강화하고, 다언어 환경에서 일관된 품질 향상을 가능하게 함을 입증하였다.