손실 없는 영상 압축을 위한 정수‑정수 ODST‑3 변환 설계

** 본 논문은 현대 영상 코덱이 주로 손실 압축을 목표로 설계되어 있음에도 불구하고, 동일한 블록 기반 구조 내에서 손실 없는 압축을 지원하기 위한 효율적인 방법을 탐구한다. 가장 단순한 방법은 변환과 양자화를 건너뛰고 예측 잔차를 바로 엔트로피 코딩하는 것이지만, 이는 잔차의 공간적 상관성을 충분히 제거하지 못해 압축 효율이 낮다. HEVC‑v2에서는 이러한 문제를 보완하기 위해 수평·수직 방향 DPCM을 도입했으며, 이는 일부 개선을 가져왔지만 여전히 변환 단계가 없기 때문에 최적의 상관성 제거가 어려운 상황이다. 이에 저자는 정수‑정수(i2i) 변환을 이용한 새로운 접근법을 제안한다. i2i 변환은 입력과 출력이 동일한 정수 격자에 머물면서 가역성을 유지한다는 특성을 갖는다. 기존 HEVC에서 사용되는 정수 DCT는 동적 범위를 확대하는 스케일링이 포함돼 손실 없는 코딩에 바로 적용하기 어렵지만, i2i 변환은 이러한 스케일링 없이도 정수 출력이 가능하므로 손실 없는 코딩에 적합하다. 논문은 먼저 i2i 변환의 기본 원리를 소개한다. 평면 회전 행렬을 리프팅 구조로 분해함으로써, 각 회전을 세 개의 리프팅 단계(또는 두 개의 리프팅 단계와 두 개의 스케일링 팩터)로 근사한다. 리프팅 단계는 p와 u라는 파라미터를 사용해 구현되며, 이 파라미터를 2^‑l 형태의 유리수로 제한하면 곱셈을 정수 덧셈·비트시프트 연산으로 대체할 수 있다. 이렇게 하면 정수‑정수 매핑이 보장되고, 역변환 역시 동일한 구조에 부호를 반대로 적용하면 된다. 핵심 기여는 odd type‑3 Discrete Sine Transform(ODST‑3)의 i2i 근사기를 설계한 점이다. ODST‑3는 기존 DCT보다 intra 예측 잔차에 대해 더 높은 에너지 집중 특성을 보여 손실 압축에서도 우수한 성능을 보인다. 그러나 ODST‑3를 직접 i2i 형태로 구현하기는 어려운데, 저자는 이를 여러 개의 평면 회전으로 분해하고 각각을 리프팅 기반 i2i 변환으로 변환함으로써 해결한다. 설계 과정에서 스케일링 팩터(K1, K2)가 정수가 아니면 정수‑정수 매핑이 깨지는 문제를 다루기 위해, 출력 재정렬과 스케일 보정 기법을 적용하였다. 결과적으로 동적 범위가 증가하지 않으면서도 원본 ODST‑3와 근사적인 주파수 응답을 유지하는 변환을 얻었다. 실험은 HEVC 레퍼런스 소프트웨어(HM‑16.9)를 기반으로 진행되었다. 4×4, 8×8, 16×16 블록 크기에 대해 i2i‑ODST‑3를 적용하고, HEVC‑v2(DPCM)와 비교하였다. 평균 비트 절감률은 2.7%였으며, 특히 수평·수직 예측 모드에서 가장 큰 이득을 보였다. 연산 복잡도 측면에서는 각 리프팅 단계당 몇 개의 정수 연산만 추가되므로 인코더·디코더 속도에 미미한 영향을 미쳤다. 또한, 스케일링 팩터를 정수화하거나 비트시프트 기반 근사로 대체함으로써 구현 난이도와 하드웨어 비용을 최소화하였다. 논문의 의의는 두 가지이다. 첫째, 기존 블록 기반 코덱 파이프라인을 그대로 유지하면서 변환 단계만 i2i 형태로 교체함으로써 손실 없는 압축 효율을 실질적으로 향상시켰다는 점이다. 둘째, ODST‑3와 같은 비전형적인 변환을 i2i로 구현하는 일반적인 설계 프레임워크를 제시함으로써, 향후 다른 변환(예: 다른 종류의 DST, DWT 등)에도 적용 가능한 기반을 마련했다. 이러한 접근은 차세대 영상 코덱에서 손실 없는 모드의 품질을 높이고, 기존 인프라와의 호환성을 유지하면서도 구현 비용을 최소화하는 데 큰 도움이 될 것으로 기대된다. **