대용량 DNA 패턴 매칭을 위한 초고속 저수준 알고리즘

초록

본 논문은 기존의 소수 기반 인코딩 방식이 패턴 길이가 길어질 때 발생하는 정밀도 문제를 해결하기 위해, 모듈러 연산과 어셈블리 수준 최적화를 결합한 새로운 DNA 서열 매칭 알고리즘을 제안한다. 멀티스레드와 SIMD 병렬화를 적용해 실행 시간을 크게 단축하고, 메모리 사용량도 최소화하였다. 실험 결과, 참조 알고리즘 대비 수십 배의 속도 향상과 메모리 절감 효과를 확인하였다.

상세 분석

이 연구는 DNA 서열에서 특정 패턴을 탐색하는 전통적인 방법인 소수 인코딩(prime‑number encoding) 방식을 비판적으로 검토한다. 기존 방식은 패턴과 텍스트를 각각 소수의 거듭제곱으로 변환한 뒤, 곱셈을 통해 매칭 여부를 판단한다. 이때 곱셈 결과가 매우 큰 정수로 폭증해 64‑bit 혹은 128‑bit 정밀도 한계에 도달하면 오버플로우가 발생하고, 결국 패턴 길이가 수십~수백 정도로 제한된다. 논문은 이러한 한계를 극복하기 위해 두 가지 핵심 기술을 도입한다. 첫째, 모듈러 연산을 이용해 곱셈 결과를 미리 정의된 큰 소수(modulus)로 나눈 나머지를 저장함으로써 정수 범위 초과를 방지한다. 여기서는 CRT(중국 나머지 정리)와 유사한 아이디어를 차용해 여러 개의 서로 다른 모듈러를 병렬로 적용, 충돌 확률을 통계적으로 최소화한다. 둘째, 알고리즘을 어셈블리 수준으로 내려가 SIMD 명령어(예: AVX‑512, NEON)와 레지스터 기반 루프 언롤링을 활용해 연산당 사이클 수를 최소화하였다. 특히, 패턴과 텍스트를 64‑bit 워드 단위로 패킹하고, 각 워드에 대해 모듈러 곱셈을 수행한 뒤, XOR‑based 해시와 비교 연산을 결합해 매칭 검증을 수행한다.

멀티스레드 설계 측면에서는 데이터 의존성을 최소화하기 위해 입력 서열을 청크(chunk) 단위로 분할하고, 각 스레드가 독립적인 메모리 버퍼를 할당받아 작업하도록 구현하였다. 이는 CPU 캐시 라인 충돌을 방지하고, NUMA 환경에서도 메모리 접근 지연을 최소화한다. 또한, 파이프라인 방식의 작업 스케줄러를 도입해 I/O와 계산을 겹치게 함으로써 전체 처리량을 극대화하였다.

성능 평가에서는 인간 게놈(≈3 Gbp) 전체와 다양한 길이(32 bp~4096 bp)의 패턴 집합을 대상으로 기존 소수 인코딩 기반 알고리즘과 비교하였다. 결과는 평균 18배 이상의 속도 향상과, 메모리 사용량은 40 % 이하로 감소함을 보여준다. 특히, 패턴 길이가 1024 bp 이상일 때 기존 방법이 완전히 실패하는 반면, 제안된 방법은 안정적인 매칭률을 유지한다.

한계점으로는 모듈러 선택에 따라 충돌 확률이 미세하게 달라질 수 있으며, 매우 긴 패턴(>10 kb)에서는 여전히 레지스터 수와 메모리 대역폭이 병목이 될 수 있다. 향후 연구에서는 동적 모듈러 조정 알고리즘과 GPU 기반 병렬화를 결합해 초대형 패턴 매칭을 목표로 할 수 있다.