빠른 적응과 테이블 기반 디코딩을 위한 범위 코더

초록

본 논문은 링 버퍼를 이용해 적응형 통계 업데이트와 테이블 기반 심볼 탐색을 결합함으로써 범위 코딩(Range Coding)의 인코딩·디코딩 속도를 크게 향상시키는 방법을 제안한다. 정적 모드에서는 약 40 %의 시간 절감, 적응형 모드에서는 알파벳 크기 12~64 범위에서 기존 기법보다 빠른 성능을 보인다.

상세 분석

범위 코딩은 확률 분포에 따라 구간을 나누어 심볼을 압축하는 대표적인 구간 기반 엔트로피 코딩이다. 전통적인 구현에서는 디코더가 현재 코드값을 누적 카운트와 비교해 올바른 심볼을 찾는 검색 과정이 O(K) 혹은 O(log K) 복잡도를 가진다. 이 검색을 완전 탐색 대신 테이블 매핑으로 O(1)화하면 정적 압축에서는 큰 이득을 얻지만, 적응형 모드에서는 매번 통계가 변하면서 테이블을 재구성해야 하므로 오히려 전체 처리 시간이 증가한다는 한계가 있었다.

저자들은 이 문제를 해결하기 위해 ‘링 버퍼’ 구조를 도입한다. 링 버퍼는 최근에 인코딩·디코딩된 심볼들을 순환형 배열에 저장하고, 각 심볼에 대한 카운트를 이 버퍼에 기반해 업데이트한다. 핵심 아이디어는 전체 카운트 M을 2ⁿ 형태(예: 2¹⁶)로 강제함으로써 “range / M” 연산을 비트 시프트(» n)로 대체하는 것이다. 이는 정수 나눗셈보다 훨씬 빠른 연산이며, 카운트가 2ⁿ을 초과하면 버퍼 전체를 한 번에 스케일링(감소)시켜서 M을 다시 2ⁿ 이하로 유지한다.

이러한 스케일링은 기존의 ‘리샘플링’ 혹은 ‘다운스케일링’ 방식과 달리 전체 카운트를 일괄 조정하므로 O(K)가 아닌 O(1)에 가깝게 수행된다. 동시에 테이블 기반 디코딩을 유지하기 위해, 테이블은 현재 카운트에 따라 동적으로 재구성되지만, 링 버퍼가 최신 심볼 빈도를 빠르게 반영하므로 재구성 빈도가 크게 감소한다.

실험에서는 정적 모드에서 테이블 기반 디코딩만 사용했을 때 대비 인코딩·디코딩 전체 시간이 약 40 % 감소했으며, 적응형 모드에서는 알파벳 크기 1264 범위에서 기존 선형·로그 탐색 방식보다 평균 1530 % 빠른 결과를 얻었다. 특히, 대역폭이 제한된 임베디드 환경이나 실시간 비디오 코덱에서 요구되는 저지연 압축에 적합한 설계라 할 수 있다.

이 논문은 기존 범위 코딩의 두 핵심 병목(검색과 나눗셈)을 동시에 해결함으로써, 하드웨어 구현 시 파이프라인 최적화와 메모리 사용 효율을 동시에 달성할 수 있는 실용적인 접근법을 제공한다.