향상된 하이브리드 레이어 이미지 압축: 딥러닝‑전통 코덱 결합

초록

본 논문은 CNN 기반 자동인코더와 FLIF 무손실 코덱을 이용해 저용량 베이스 레이어를 생성하고, 그 복원 이미지와 원본 이미지의 차이를 BPG 코덱으로 인코딩하는 2‑계층 하이브리드 압축 프레임워크를 제안한다. Residual 블록 구조를 개선하고 PReLU·Dropout·tanh 활성화를 적용해 학습 안정성을 높였으며, Residual 스케일링에 클리핑 방식을 도입해 고품질 복원을 달성한다. Kodak·Tecnick 데이터셋 실험에서 PSNR와 MS‑SSIM 모두 기존 최첨단 DSSLIC 및 전통 코덱(BPG, JPEG2000, WebP)을 능가한다.

상세 분석

이 연구는 기존 DSSLIC이 사용하던 의미론적 세그멘테이션 기반 합성 레이어를 제거하고, 순수히 이미지 자체의 압축 정보를 추출하는 자동인코더(CompNet‑RecNet)만으로 베이스 레이어를 구성한다는 점에서 설계 단순화와 효율성을 동시에 추구한다. CompNet은 입력 이미지를 1/16 크기의 압축 표현(c)으로 변환하고, 이를 FLIF 코덱으로 무손실 인코딩한다. FLIF은 무손실 압축 효율이 뛰어나며, RGB444 포맷을 그대로 유지해 색채 손실을 방지한다. RecNet은 압축 표현을 복원해 coarse 이미지(x̂₀)를 생성한다. 여기서 핵심은 두 네트워크가 13계층 깊이의 대칭 구조를 가지며, 다운샘플링·업샘플링 사이에 Residual 블록을 삽입해 깊은 피처 전달을 가능하게 한 것이다.

Residual 블록은 원 논문(ResNet)에서 사용된 두 3×3 Conv‑BN‑ReLU 구조를 변형한다. 스킵 연결 뒤의 비선형 함수를 제거하고, 두 Conv 사이에 Dropout을 삽입해 과적합을 억제한다. 또한 활성화 함수를 ReLU에서 PReLU로 교체해 학습 초기에 음수 영역도 활용하도록 하였으며, 최종 출력에는 tanh를 적용해 ‑1~1 범위로 정규화한다. 이러한 설계 변경은 학습 수렴 속도를 높이고, 압축된 표현의 일반화 능력을 강화한다.

Residual 이미지 r = x – x̂₀는 값 범위가 ‑255255이므로, 이를 BPG 코덱에 입력하기 위해 스케일링이 필요하다. 논문에서는 세 가지 방법을 비교한다. (1) 단순 시프트( +127.5) 방식, (2) 전체 최소·최대값을 0255에 매핑하는 MinMax 방식, (3) 대부분의 픽셀이 ‑120~120에 집중한다는 관찰에 기반해 클리핑 범위를 고정하고 매핑하는 Clipping 방식. 실험 결과 Clipping이 MinMax와 거의 동등한 성능을 보이며, 시프트 방식보다 고비트레이트 구간에서 현저히 우수했다. 이는 극단값을 제한함으로써 양자화 손실을 최소화하고, BPG가 효율적으로 잔차를 압축하도록 돕는다.

학습은 CLIC 데이터셋에서 81,650개의 1633장 이미지 패치를 추출해 수행했으며, MSE 손실만을 사용해 PSNR 중심 최적화를 진행한다. SSIM 향상을 위한 perceptual·GAN 손실을 배제했음에도 불구하고, 제안 방식은 MS‑SSIM에서도 기존 방법들을 앞선다. 이는 자동인코더가 원본 이미지의 구조적 정보를 충분히 보존하고, 잔차 코덱이 세밀한 디테일을 보강하기 때문으로 해석된다.

실험에서는 Kodak(24장)와 Tecnick(100장) 데이터셋을 RGB444 포맷으로 평가했으며, 비트당 픽셀(bit/pixel) 구간 전반에 걸쳐 BPG, JPEG2000, WebP, JPEG을 능가한다. 특히 PSNR 기준으로 평균 1 dB 이상의 향상을 기록했으며, MS‑SSIM에서도 0.003~0.005 수준의 개선을 보였다. 시각적 비교에서도 블록 현상, 링잉, 블러 현상이 감소하고, 세밀한 텍스처가 잘 보존되는 것을 확인할 수 있다.

전체적으로 이 논문은 딥러닝 기반 압축과 전통 코덱의 장점을 효과적으로 결합한 하이브리드 레이어 설계, Residual 블록의 세밀한 튜닝, 그리고 실용적인 스케일링 전략을 통해 현재 가장 강력한 이미지 코덱 중 하나인 BPG를 능가하는 새로운 기준을 제시한다.