비참조 품질 지표 기반 비디오 인코딩 최적화

초록

본 논문은 비참조 영상 품질 지표(NRM)의 비선형 특성과 불안정한 그래디언트를 고려하여, 선형화 기반 RDO(LNRM)를 확장하고 다중 NRM 앙상블을 동시에 최적화하는 새로운 프레임워크를 제안한다. 그래디언트 스무딩을 도입해 안정성을 높이고, 하이브리드 코덱 및 과적합 코덱에 적용해 인코더 복잡도를 감소시키면서도 여러 NRM에 걸친 비트레이트 절감 효과를 입증하였다.

상세 분석

이 연구는 기존 RDO가 전통적인 전참조 지표(SSE, PSNR)에 의존하는 한계를 지적하고, 비참조 품질 지표(NRM)가 실제 사용자 생성 콘텐츠(UGC)의 주관적 만족도를 더 잘 반영한다는 점을 강조한다. 그러나 NRM은 딥러닝 기반 모델이 다수이며, 입력 영상에 대한 출력값이 고도로 비선형이고 지역적으로 급격히 변하는 그래디언트를 가진다. 이러한 특성은 LNRM 방식, 즉 NRM의 입력에 대한 미분값을 이용해 비트 할당을 선형적으로 조정하는 방법에 큰 불안정을 초래한다. 논문은 첫 번째 실험에서 단일 NRM을 최적화했을 때 다른 NRM에 대해서는 오히려 품질 저하가 발생할 수 있음을 실증한다. 이는 특정 NRM이 학습 데이터나 설계상의 편향을 내포하고 있어, 해당 편향을 이용한 최적화가 다른 지표와 상충하기 때문이다.

이를 해결하기 위해 저자들은 두 가지 핵심 아이디어를 제시한다. 첫째, 다중 NRM을 동시에 고려하는 앙상블 최적화 프레임워크를 도입한다. 각 NRM의 손실을 가중합 형태로 결합함으로써, 어느 하나의 모델에 과도하게 최적화되는 현상을 억제하고, 전반적인 품질 예측 정확도를 향상시킨다. 둘째, 그래디언트 스무딩 기법을 적용한다. 구체적으로는 NRM의 입력에 작은 가우시안 블러를 적용한 후 미분을 수행하거나, 미분값 자체에 저역통과 필터를 적용해 급격한 변동을 완화한다. 이렇게 하면 LNRM이 사용하는 선형 근사식이 보다 안정적인 근사값을 제공하게 된다.

프레임워크는 하이브리드 코덱(예: AVC)과 최신 신경망 기반 코덱(Cool‑chic) 모두에 적용 가능하도록 설계되었다. 특히 Cool‑chic과 같은 과적합 코덱은 인코딩 단계에서 매 프레임마다 NRM을 직접 평가하고 역전파해야 하는 높은 계산 비용이 문제였는데, 제안된 앙상블‑스무딩 LNRM은 미리 학습된 선형 모델만을 사용하므로 이러한 반복적인 NRM 호출을 회피한다. 결과적으로 인코더 복잡도가 크게 감소하면서도 비트레이트 대비 품질 향상이 유지된다.

실험은 YouTube UGC 데이터셋을 사용해 AVC와 Cool‑chic 두 코덱에 대해 수행되었다. 여러 대표적인 NRM(예: NIQE, BRISQUE, VMAF‑NR)에 대해 각각 단일 최적화, 앙상블 최적화, 스무딩 적용 여부를 비교했으며, 앙상블‑스무딩 조합이 모든 NRM에서 평균 5~12 %의 비트레이트 절감을 달성함을 확인했다. 특히 Cool‑chic에서는 직접 NRM 최적화 대비 인코딩 시간이 30 % 이상 단축되었다. 이러한 결과는 제안된 방법이 다양한 비참조 지표에 대해 일관된 성능 향상을 제공함을 입증한다.

요약하면, 논문은 NRM의 비선형·불안정 특성을 정량적으로 분석하고, 이를 보완하기 위한 앙상블 및 그래디언트 스무딩 기반 LNRM 프레임워크를 제안함으로써, 기존 전참조 기반 RDO의 한계를 넘어서는 실용적인 비디오 인코딩 최적화 방안을 제시한다.