천문학 데이터의 정밀한 압축: 분수 미적분학과 웨이블릿의 만남

초록

노이즈가 많고 불규칙한 천문학적 광도 곡선(light curve) 데이터를 효과적으로 압축하기 위해, 연구진은 전통적인 웨이블릿 방법에 ‘분수 미적분학’ 개념을 접목한 새로운 기법을 제안합니다. Atangana-Baleanu 미분 연산자를 이용해 웨이블릿 계수를 정규화함으로써, 노이즈는 억제하지만 미약한 천체 현상(행성 통과, 별의 플레어 등)은 보존하는 ‘장기 기억 효과’를 구현했습니다. 이 방법은 기존 웨이블릿 압축 기법과 비슷한 압축률을 유지하면서도 낮은 진폭의 신호를 더 잘 보존하는 것으로 확인되었습니다.

상세 분석

본 논문의 기술적 핵심은 ‘비국소성(Non-locality)‘과 ‘장기 기억(Long Memory)‘을 모델링하는 분수 미적분학(Fractional Calculus)을 신호 처리에 창의적으로 적용한 점에 있습니다. 기존의 웨이블릿 압축/잡음 제거는 각 웨이블릿 계수를 독립적으로 평가하여 일정 크기(문턱값) 미만의 계수를 단순 제거하는 ‘경계값 처리(Thresholding)‘에 의존했습니다. 이는 계산이 간편하지만, 계수 간의 시간적 연관성과 스케일 간의 상호작용을 무시하여, 특히 낮은 진폭의 중요한 천체 신호가 노이즈와 함께 삭제되거나 인위적인 링잉 아티팩트(ringing artifact)가 발생하는 문제점이 있었습니다.

연구진이 채택한 Atangana-Baleanu-Caputo(ABC) 미분 연산자는 이러한 한계를 해결할 수 있는 수학적 도구입니다. ABC 연산자의 핵심은 Mittag-Leffler 함수를 커널로 사용한다는 점입니다. 이 커널은 기존의 멱함수(Power-law) 커널과 달리 시간 원점(t=0)에서 특이점(Singularity)이 없어 수치 계산이 안정적이며, 지수 함수에서 멱함수 법칙에 이르는 다양한 메모리 감쇠 패턴을 매끄럽게 표현할 수 있습니다. 논문에서는 이 ABC 연산자를 웨이블릿 계수의 시간적 진화를 규제하는 ‘정규화자(Regularizer)‘로 사용합니다. 즉, 각 계수의 값이 단순히 문턱값에 의해 결정되는 것이 아니라, 과거의 계수 값들이 ABC 연산자에 정의된 ‘메모리 가중치’에 따라 현재 계수 값에 영향을 미치도록 만듭니다. 이를 통해 신호의 시간적 일관성(Coherence)이 높은 영역(예: 행성 통과 구간)의 계수는 서로 강하게 보존되고, 무작위성 높은 노이즈 영역의 계수는 자연스럽게 억제되는 효과를 얻습니다. 이는 신호의 지역적 통계 특성에 적응하는 것과 유사한 효과를 내며, 전역적 문턱값의 단점을 극복합니다. 제안 방법의 성능은 합성 신호와 실제 TESS 망원경 데이터를 통해 검증되었으며, 특히 저진폭 천체 현상의 보존율에서 기존 방법 대비 우수성을 입증했습니다.