다중압축에 최적화된 16점 무곱셈 DCT 근사 변환

본 논문은 16점 DCT를 위한 새로운 무곱셈·무시프트 근사 변환을 제안하고, 이를 이미지·비디오 압축, 하드웨어 구현, 그리고 최신 비디오 코덱(HEVC) 적용까지 포괄적으로 평가한다. 1. **배경 및 필요성** DCT는 JPEG, MPEG, H.264 등 다양한 표준에서 핵심 변환으로 사용되며, 에너지 집중도가 높아 압축 효율을 크게 향상시킨다. 그러나 정확한 DCT는 실수 곱셈과 비트시프트가 필요해 전력·면적이 크게 소모된다. 특히 HEVC와 같은 최신 코덱은 4×4, 8×8, 16×16, 32×32 블록을 모두 지원하므로, 16점 DCT의 저비용 구현이 실시간 고해상도 영상 처리에 중요하다. 기존 연구에서는 8점 DCT에 대한 다양한 근사가 제안됐지만, 16점에 대한 무곱셈 근사는 거의 없으며, 기존 방법들은 비트시프트와 다소 복잡한 덧셈 구조를 포함한다. 2. **제안 변환 설계** 저자들은 8점 RDCT 행렬을 두 번 겹쳐 16점 변환 행렬 T를 구성한다. T는 원소가 {‑1,0,1}만을 가지며, 행·열마다 대칭 구조를 갖는다. T·Tᵀ가 대각 행렬이 되도록 설계했으며, 이를 통해 직교성을 보장한다. 직교성을 완전히 만족시키기 위해 스케일 행렬 S=diag(¼,¼,1/√12,1/√8,…)를 곱해 최종 변환 ˆC=S·T를 만든다. S는 양자화 단계에서 흡수될 수 있어 실제 연산에 영향을 주지 않는다. 3. **알고리즘 및 복잡도** T는 5개의 기본 행렬(P₁, P₂, M₁~M₄)의 곱으로 분해된다. 각 Mₖ는 단순한 덧셈·부호 전환 연산만을 포함하고, P₁·P₂는 고정된 순열이다. 결과적으로 전체 1‑D 변환은 60개의 덧셈만 필요하며, 곱셈·비트시프트는 전혀 사용되지 않는다. 이는 기존 16점 근사(BAS‑2010, BAS‑2013, BCEM)보다 6~17 % 적은 연산량이며, 전력·면적 절감에 직접적인 이점을 제공한다. 4. **정량적 평가** - **유사도 지표**: DCT 왜곡(d₂), 총 오류 에너지(ε), 평균 제곱 오차(MSE) 측면에서 제안 변환은 WHT보다 우수하고, BAS‑2010·BAS‑2013·BCEM보다 약간 낮지만 허용 가능한 수준이다. - **코딩 성능**: 변환 코딩 이득(Cg)은 8.30 dB, 변환 효율(η)은 70.8 %로 가장 높은 점수를 기록했다. 이는 직교성을 유지하면서도 에너지 집중도가 충분히 높아 양자화 효율이 뛰어남을 의미한다. 5. **이미지 압축 실험** 45개의 512×512 그레이스케일 이미지에 16×16 블록 DCT를 적용하고, Zig‑Zag 순서로 상위 r% 계수를 남겨 압축률을 변화시켰다. r≤50(고압축) 구간에서 제안 변환은 PSNR 평균 30.3 dB, SSIM 평균 0.88을 달성했으며, 다른 근사보다 PSNR·SSIM 절대 오차가 최소였다. 시각적으로도 블록 경계와 픽셀화가 가장 적게 나타났다. 6. **하드웨어 구현** - **FPGA**: Xilinx FPGA에 1‑D 및 2‑D 구조를 구현, 최대 클럭 250 MHz, 논리 사용량 1.2 kLUT, 동적 전력 0.45 W. - **ASIC**: 45 nm CMOS 공정으로 합성, 면적 0.018 mm², 정적 전력 12 mW. 두 플랫폼 모두 기존 16점 근사 대비 20~30 % 전력·면적 절감 효과를 보였다. 7. **HEVC 적용** HEVC 레퍼런스 소프트웨어에 ˆC를 삽입해 1080p 30 fps 비디오를 인코딩·디코딩하였다. BD‑PSNR 차이는 +0.02 dB에 불과했으며, 인코딩/디코딩 속도는 변함이 없었다. 이는 제안 변환이 기존 Chen DCT와 동일한 영상 품질을 유지하면서도 연산량을 크게 줄일 수 있음을 실증한다. 8. **결론 및 의의** 제안된 16점 무곱셈 DCT 근사는 수학적 직교성, 최소 연산 복잡도, 우수한 코딩 효율, 그리고 실제 하드웨어·코덱 적용 가능성을 모두 만족한다. 특히 저전력·고속이 요구되는 모바일·임베디드 영상 처리, 실시간 스트리밍, 차세대 고해상도 코덱(HEVC, AV1 등)에서 큰 활용 가치를 가진다. 향후 연구에서는 32점·64점 확장, 다중코어/GPU 가속, 그리고 딥러닝 기반 양자화와의 결합을 통해 더욱 높은 압축 효율과 에너지 절감을 목표로 할 수 있다.