XOR 기반 최소자 선택으로 같은 kmer를 공유하는 수 계산

초록

본 논문은 DNA 서열에서 k‑mer를 m‑mer로 압축하는 최소자(minimizer) 기법을 XOR 해시 함수와 결합한 새로운 순서 체계에 대해 이론적 분석을 수행한다. 키 γ를 사용해 m‑mer를 XOR 변환한 뒤 사전 정의된 사전순으로 최소자를 결정하고, 특정 m‑mer w가 최소자가 되는 모든 k‑mer의 개수 π_k^γ(w)를 동적 프로그래밍으로 O(k m²) 시간에 계산하는 식을 제시한다.

상세 분석

논문은 기존에 널리 사용되던 사전순(minimizer) 방식이 파티션 불균형을 초래한다는 사실을 이론적으로 입증한 뒤, 이를 대체할 수 있는 무작위성 기반 순서를 제안한다. 구체적으로, 알파벳 Σ가 2^b개의 원소를 갖는 경우(예: DNA의 4염기) 각 문자에 b비트 벡터를 할당하고, 키 γ∈Σ^m을 고정한 뒤 m‑mer w에 대해 w⊕γ를 계산한다. 이 변환은 XOR 연산이 가역적이므로, 서로 다른 w가 동일한 변환값을 갖는 경우는 없으며, 따라서 w⊕γ를 사전순으로 정렬하면 완전한 순서가 정의된다.

핵심은 주어진 w에 대해 “vigemin”이라 부르는 최소 m‑mer를 찾는 과정에서, w가 최소자가 되는 모든 k‑mer의 수 π_k^γ(w)를 정확히 셀 수 있다는 점이다. 이를 위해 저자는 먼저 자동 상관 행렬(R) 을 정의한다. R_{i,j}는 w의 부분 문자열 a_j…a_i와 γ의 앞부분을 XOR한 결과와, w의 앞부분 a_1…a_{i‑j+1}와 같은 γ 부분을 XOR한 결과를 비교해 ‘<’, ‘=’, ‘>’ 중 하나의 값을 갖는다. 이 행렬은 w 내부에서 어떤 위치에서 최소자가 깨질 수 있는지를 판별하는 데 사용된다.

다음으로 특수 알파벳 Σ_i 를 도입한다. Σ_i는 γ의 i번째 비트와 XOR했을 때 w의 i번째 문자보다 큰 결과를 주는 문자 집합이다. 이는 “antemer”(앞쪽 문자열)와 “postmer”(뒷쪽 문자열)를 구성할 때 허용 가능한 문자 선택을 제한한다. 즉, 앞쪽에 위치한 m‑mer가 w보다 작아서는 안 되므로, 해당 위치에서 선택 가능한 문자는 Σ_i에 속해야 한다.

저자는 k‑mer를 y·w·z 형태(길이 α, m, β)로 분해하고, y가 antimer, z가 postmer가 되도록 조건을 정리한다. 이때 π_k^γ(w) = Σ_{α+β=k‑m} A(α)·P_m(β+m) 로 표현된다. 여기서 A(α)와 P_m(·)는 각각 antimer와 postmer의 개수를 의미한다. 자동 상관 행렬에 ‘<’가 존재하면 특정 i, j에 대해 A_i(α)와 P_i(β) 가 0이 되는 “금지 구역”을 정의하고, 이를 통해 i_max와 β_max를 계산한다.

동적 프로그래밍 단계에서는 A_i(α)와 P_i(β) 를 재귀식으로 전개한다. i=0인 경우는 Σ_1에 속하는 문자 선택에 의해 |Σ_1|·A(α‑1) 로 계산되고, i=α인 경우는 R 행렬의 ‘=’와 ‘>’ 관계를 이용해 논리곱 형태의 식으로 정리된다. 일반 i(0<i<i_max+1) 에서는 두 가지 제약식—(i) b_{i+1}⊕c_1 ≥ a_1⊕c_1, (ii) R_{i,j}=‘=’인 경우 b_{i+1}⊕c_{i‑j+2} ≥ a_{i‑j+2}⊕c_{i‑j+2}—을 만족해야 하며, 이를 통해 A_i(α) 를 이전 단계 값들의 가중합으로 표현한다.

전체 알고리즘은 R 행렬을 O(m²) 시간에 구축하고, Σ_i 를 미리 계산한 뒤, α와 β에 대해 각각 O(k·m) 단계의 DP를 수행한다. 따라서 최종 복잡도는 O(k·m²) 시간, O(k·m) 메모리이며, 이는 기존 사전순 기반 방법과 동일하거나 더 효율적이다. 실험적 평가에서는 다양한 γ 값에 대해 파티션 균형이 크게 개선됨을 보이며, 특히 무작위 키를 사용했을 때 최대 버킷 크기가 이론적 최악값에 근접하지 않음을 확인한다.

이 논문의 주요 기여는 (1) XOR 기반 해시를 최소자 순서에 적용한 일반화된 프레임워크, (2) 자동 상관 행렬을 이용해 금지 구역을 정량화한 수학적 모델, (3) 동적 프로그래밍을 통한 정확한 카운팅 알고리즘을 제시함으로써, 실무에서 최소자 파티션의 품질을 사전에 예측하고 설계할 수 있게 한 점이다.