천문 이미지 무손실 압축과 잡음 영향

초록

본 논문은 다양한 무손실 압축 기법을 천문 CCD 이미지에 적용해, 이미지에 포함된 잡음 수준이 압축 비율과 속도에 미치는 영향을 정량적으로 분석한다. 가우시안 잡음 가정 하에 압축 불가능한 비트 수 Nbits = log₂(σ·√12) 로 정의하고, 압축 효율을 R = BITPIX/Nbits + K 로 표현한다. 실험 결과, Rice 알고리즘이 GZIP 대비 23배 빠르면서 약 1.4배 높은 압축률을 보이며, 이상적인 K = 0 알고리즘의 7590% 수준에 도달한다는 점을 확인하였다.

상세 분석

논문은 먼저 이미지 픽셀 값이 완전한 가우시안 잡음으로 구성된 경우, 압축이 불가능한 최소 비트 수를 Nbits = log₂(σ·√12) 로 도출한다. 여기서 σ는 픽셀값의 표준편차이며, √12는 균등 분포와 가우시안 분포 사이의 변환 상수이다. 이 식은 잡음이 클수록 Nbits가 증가해 압축 효율이 감소함을 수학적으로 설명한다. 압축 비율 R은 BITPIX(픽셀당 비트 수)를 Nbits로 나눈 뒤, 알고리즘 고유의 효율 상수 K를 더해 정의한다. K가 0에 가까울수록 이상적인 압축에 근접한다는 의미다.

실험에서는 FITS 포맷의 타일 기반 압축 방식을 사용해 네 가지 알고리즘(Rice, Hcompress, PLIO, GZIP)을 비교하였다. Rice는 정수형 데이터에 특화된 선형 예측 및 런-길이 인코딩을 결합한 방식으로, 계산 복잡도가 낮아 CPU 사용량이 적고 메모리 요구도 최소화한다. 반면 Hcompress는 웨이브릿 변환을 이용해 잡음 성분을 효과적으로 제거하지만, 변환·역변환 과정에서 연산 비용이 크게 늘어난다. PLIO는 주로 이미지 마스크와 같은 이진 데이터에 최적화돼 일반 CCD 이미지에는 부적합하고, GZIP은 일반적인 LZ77 기반 압축으로, 데이터 패턴을 탐지하는 데는 강하지만 정수형 천문 데이터에서는 비효율적이다.

성능 테스트 결과, Rice 알고리즘은 평균 압축 비율이 2.1:1에서 3.5:1 사이이며, GZIP은 1.5:1에서 2.4:1 수준에 머문다. 압축 속도는 Rice가 GZIP 대비 23배 빠르고, Hcompress는 가장 느렸다. 특히 잡음이 적은 이미지(σ ≈ 2–3)에서는 Rice가 이상적인 K ≈ 0.1에 근접한 효율을 보였고, 잡음이 큰 이미지(σ ≈ 10)에서도 K ≈ 0.3 수준을 유지해 전체적으로 7590%의 이상적 압축률을 달성했다.

이러한 결과는 천문 데이터 파이프라인에서 실시간 혹은 대용량 저장이 요구될 때, Rice 압축이 가장 현실적인 선택임을 시사한다. 또한 Nbits와 K 개념을 통해 잡음 수준을 사전에 측정하고, 기대 압축률을 예측함으로써 저장 용량 계획과 전송 대역폭 관리에 활용할 수 있다.