DoDo‑Code: 딥러닝 기반 레벤슈타인 임베딩으로 구현한 고효율 4진 IDS 채널 부호

초록

본 논문은 삽입·삭제·대체(IDS) 오류를 교정해야 하는 4진 채널에서, 짧은 길이 코드의 코드율을 크게 향상시키는 새로운 부호 체계인 DoDo‑Code를 제안한다. 레벤슈타인 거리를 보존하도록 학습된 딥 임베딩을 이용해 시퀀스를 유클리드 공간에 매핑하고, 이 공간에서 이웃 밀도가 낮은 시퀀스를 탐색·선택함으로써 최소 거리 3을 만족하는 코드북을 효율적으로 구축한다. 또한 K‑d 트리를 활용한 근사 최근접 탐색으로 디코딩 복잡도를 O(n) 수준으로 낮춘다. 실험 결과, 기존 조합론적 설계보다 짧은 길이에서 코드율이 현저히 높으며, 단일 IDS 오류를 정확히 복원한다.

상세 분석

DoDo‑Code는 IDS(삽입·삭제·대체) 채널에서 발생하는 복합 오류를 효과적으로 교정하기 위해, 전통적인 조합론적 설계가 직면한 두 가지 핵심 난관을 딥러닝으로 회피한다. 첫째, 레벤슈타인 거리 기반의 구형(ball) 크기가 비균질하고 정확히 계산하기 어려워 코드워드 선택 최적화가 불가능했다. 논문은 1‑D CNN 10층과 배치 정규화를 갖는 시암쌍 신경망을 학습시켜, 시퀀스를 고차원 실수 벡터로 매핑한다. 이때 손실함수는 포아송 분포 기반의 음의 로그우도(PNLL)를 변형한 형태로, 거리 1에 대해서는 정확히 예측하고, 거리 ≥2에 대해서는 2보다 크게 예측하도록 설계하였다. 결과적으로 임베딩 벡터 사이의 제곱 유클리드 거리 ˆd가 실제 레벤슈타인 거리 d를 근사한다.

둘째, 코드워드 간 최소 거리를 보장하면서 코드율을 극대화하는 탐색이 복잡도 측면에서 비현실적이었다. DoDo‑Code는 임베딩 벡터가 다변량 정규분포 N(0, Σ)를 따른다는 가정을 이용한다. 각 벡터의 확률밀도값(p(x))은 Σ⁻¹에 대한 이차형식 uᵀΣ⁻¹u 로 표현되며, 이는 벡터가 “희소”할수록(즉, 주변에 이웃이 적을수록) 값이 커진다. greedy 알고리즘은 후보 집합 A에서 uᵀΣ⁻¹u 가 최대인 시퀀스를 선택하고, 그 주변 레벤슈타인 구(반경 2)를 제거한다. 이 과정은 전체 후보 4ⁿ개에 대해 한 번씩 수행되지만, 임베딩 계산은 한 번만 하면 되며, Σ는 전체 임베딩 집합을 통해 사전 추정한다.

디코딩 단계에서는 전통적인 레벤슈타인 거리 계산이 O(n²)·|C| 수준으로 비효율적인데, DoDo‑Code는 K‑d 트리를 구축해 임베딩 공간에서 최근접 이웃을 O(log|C|) 시간에 찾는다. 손상된 세그먼트 ˆc를 임베딩 후 트리 질의하면, 가장 가까운 코드워드 c를 빠르게 복원한다. 이때 실제 레벤슈타인 거리 검증은 선택된 후보 하나에 대해서만 수행하므로 전체 복잡도는 실질적으로 O(n) 수준으로 감소한다.

실험에서는 n=8~20 범위의 짧은 코드 길이에 대해 기존 VT 기반 및 최신 조합론적 설계(예: log n+log log n+7 비트冗余)와 비교하였다. DoDo‑Code는 동일 길이에서 코드율이 평균 12%~18% 상승했으며, 특히 n≤12에서 “거의 최적”에 근접하는 코드 크기를 달성했다. 또한 단일 IDS 오류 복원 성공률이 99.9% 이상으로, 학습된 임베딩이 레벤슈타인 거리 구조를 충분히 보존함을 입증한다.

이러한 접근은 (1) 레벤슈타인 거리의 복잡한 조합 구조를 연속적인 임베딩 공간으로 변환, (2) 통계적 밀도 기반의 코드워드 선택으로 최적에 가까운 코드북을 효율적으로 구성, (3) 근사 최근접 탐색을 통한 디코딩 가속이라는 세 축을 동시에 만족한다는 점에서 혁신적이다. 다만, 임베딩 모델의 일반화 능력은 학습 데이터와 알파벳 크기에 의존하므로, 4진 외의 고차원 알파벳이나 비정형 채널에 대한 확장성 검증이 필요하다. 또한, 임베딩 오차가 누적될 경우 최소 거리 보장이 깨질 위험이 있으므로, 실운용에서는 거리 임계값을 보수적으로 설정하거나 추가 검증 절차를 도입하는 것이 바람직하다.