H 264 AVC 비디오 코딩을 위한 고속 서브픽셀 모션 추정 알고리즘

초록

본 논문은 H.264/AVC에서 정수픽셀 탐색은 기존의 고속 기법으로 크게 가속화된 반면, 서브픽셀 탐색이 전체 인코딩 시간의 병목으로 부각되는 문제를 해결한다. 저자는 파티션 선택 전에 ‘거친’ 서브픽셀 탐색을 수행하고, 최종 후보 파티션에 대해서만 ‘정밀’ 서브픽셀 탐색을 적용하는 이중 단계 방식을 제안한다. 이를 통해 비최적 파티션에 대한 서브픽셀 연산을 대폭 감소시켜 평균 50% 이상의 탐색 포인트 절감과 PSNR 손실 0.05 dB 이하의 품질 저하를 달성하였다.

상세 분석

H.264/AVC는 다양한 블록 크기와 다중 파티션 구조를 채택함으로써 인코딩 효율을 크게 향상시켰지만, 그에 따른 모션 추정(ME) 복잡도도 급격히 증가한다. 특히 정수픽셀 단계는 4‑step, hexagon, diamond 등 여러 고속 탐색 기법이 도입되어 평균 탐색 횟수가 크게 감소했지만, 서브픽셀 단계는 여전히 모든 후보 정수픽셀 위치에 대해 8‑point 혹은 9‑point 보간을 수행해야 하는 구조적 한계가 있다. 기존 연구들은 서브픽셀 탐색을 전역적으로 제한하거나, 비용 함수의 기울기를 이용해 후보를 선별하는 방식으로 탐색량을 줄였으나, 파티션 선택 전후의 연관성을 충분히 활용하지 못했다.

본 논문은 이러한 한계를 극복하기 위해 두 단계의 서브픽셀 탐색을 도입한다. 첫 번째 ‘거친’ 단계에서는 각 파티션에 대해 정수픽셀 최적 위치 주변의 4‑point(상하좌우)만을 평가하고, 이때 얻은 비용 차이를 기반으로 파티션의 ‘잠재적 우수성’을 판단한다. 비용 차이가 일정 임계값 이하인 파티션만을 ‘후보’로 선정하고, 나머지는 바로 정밀 탐색을 생략한다. 두 번째 ‘정밀’ 단계에서는 후보 파티션에 대해 전통적인 8‑point 서브픽셀 탐색을 수행하고, 필요에 따라 2‑step refinement을 적용한다.

이중 탐색 구조는 크게 세 가지 장점을 제공한다. 첫째, 비최적 파티션에 대한 서브픽셀 연산을 거의 배제함으로써 전체 연산량을 절반 이상 감소시킨다. 둘째, ‘거친’ 단계에서 사용되는 비용 차이 임계값은 영상 내용에 따라 동적으로 조정 가능하므로, 복잡한 장면에서는 더 많은 후보를 남겨 품질 저하를 최소화하고, 정적인 장면에서는 탐색을 크게 억제한다. 셋째, 파티션 선택과 서브픽셀 탐색을 순차적으로 결합함으로써 파티션 간 상호작용을 자연스럽게 반영한다. 실험 결과는 HM‑reference 구현에 본 알고리즘을 적용했을 때, 평균 서브픽셀 탐색 포인트가 52% 감소하고, PSNR 손실이 0.03~0.07 dB 수준에 머물러 기존 고속 서브픽셀 기법 대비 동일한 비디오 품질을 유지함을 보여준다.

또한 복잡도 분석에서는 거친 단계의 연산이 O(N) (N은 파티션 수) 수준이며, 정밀 단계는 후보 파티션 수에 비례하는 O(k·M) (k는 후보 파티션 수, M은 전통적인 서브픽셀 탐색 포인트) 형태임을 증명한다. 이는 전체 복잡도가 정수픽셀 탐색 복잡도와 거의 동일한 수준으로 낮아짐을 의미한다. 한계점으로는 임계값 설정이 영상 특성에 민감하다는 점이며, 향후 적응형 학습 기반 임계값 조정이 필요하다는 점을 언급한다.