천문 영상 탐지 한계 향상을 위한 자체 지도형 시공간 디노이징

초록

본 논문은 다중 노출 이미지의 시공간 상관성을 학습하는 자체 지도형 트랜스포머 기반 디노이징 알고리즘 ASTERIS를 제안한다. 모의 데이터와 JWST·Subaru 실제 관측에 적용한 결과, 90 % 완전도·정밀도에서 기존 공동합법보다 약 1 mag, 최종 검출 깊이에서는 1.7 mag 향상되었으며, 저표면 밝기 은하 구조와 중력렌즈 아크 등 이전에 놓쳤던 천체를 새롭게 발견한다.

상세 분석

ASTERIS는 Noise2Noise(N2N) 프레임워크를 확장하여, 동일한 천체를 관측한 16개의 노출을 입력·목표 집합으로 나누고, 두 집합 간의 평균 손실(MSE)과 개별 노출 간 절대 오차(MAE)를 복합 손실 함수로 최소화한다. 트랜스포머 기반 어텐션 메커니즘은 3차원(픽셀 × 픽셀 × 노출) 볼륨 데이터를 voxel‑wise로 처리해, 공간적·시간적 상관성을 동시에 포착한다. 학습 단계에서는 각 노출이 독립적인 잡음 실현을 갖는다는 가정을 이용해, ‘깨끗한’ 레퍼런스를 별도로 확보할 필요 없이 자체 지도형으로 최적화한다.

입력 이미지의 저신호 영역(3σ 이하)만을 네트워크에 전달하고, 고신호 영역은 클리핑·중앙값 결합 후 최종 이미지에 재삽입하는 전략은 동적 범위 보존과 네트워크 학습 효율을 동시에 달성한다. 실험에서는 JWST NIRCam F115W 필터 실 데이터에 8노출을 입력으로 사용해, 10 epoch(≈26 h) 학습 후 18 s 내에 1650 × 1650 픽셀 출력을 생성한다.

성능 평가는 모의 데이터(50 000개의 모의 별)와 실제 데이터(168노출 공동합을 ‘그라운드 트루스’로 사용)에서 수행되었다. ASTERIS는 기존 공동합 대비 이미지 히스토그램 폭이 약 20 % 감소하고, 5σ 감도에서 N2N보다 0.9 mag, 공동합보다 1.0 mag 향상된 검출 한계를 보였다. 완전도·정밀도 90 % 지점에서 각각 1.0 mag, 1.5 mag 개선을 달성했으며, F‑score = 0.9 기준 깊이 향상은 공동합 대비 1.7 mag, N2N 대비 1.4 mag였다.

PSF 형태와 포토메트리 정확도도 검증했는데, Kolmogorov‑Smirnov 검정에서 ASTERIS와 공동합 간 p‑값이 0.9로 차이가 없으며, N2N은 p < 0.05로 해상도 저하를 나타냈다. 포토메트리 편향은 거의 없고, 미세한 소스에 대한 정밀도는 약간 개선되었다.

실제 적용 사례로는 JWST GLIMPSE 프로그램의 8노출 데이터에 ASTERIS를 적용했을 때, 168노출 공동합에서 검출된 169개의 소스 중 97개를 재현했으며, 8노출 공동합만으로는 50개만 검출되는 상황과 비교해 94 % 검출 효율을 달성했다. 저표면 밝기 은하 디스크와 외팔 암, 중력렌즈 아크 등 구조적 특징도 SSIM 점수가 0.37→0.67, 0.59→0.81로 크게 향상되었다.

다른 기구에 대한 일반화 테스트에서는 Subaru/MOIRCS K‑short 밴드 8노출(3 s) 데이터에 JWST‑학습 모델을 직접 적용하면 일부 위양성이 발생했으나, 동일 기구·노출 조건으로 재학습한 모델은 깊은 2088 s 공동합 대비 유사한 검출 능력을 보였다. 이는 ASTERIS가 기구 특성에 맞는 사전 학습을 통해 전이 학습이 가능함을 시사한다.

전반적으로 ASTERIS는 시공간 상관성을 활용한 자체 지도형 디노이징으로, 기존 소프트웨어적 S/N 향상 한계를 넘어서는 검출 깊이와 정밀도를 제공한다. 특히 고레드쉬프트(z > 9) 은하 후보 탐색에서 기존 방법 대비 3배 많은 후보를 식별하고, 절대 UV 광도에서도 1 mag 더 얕은 한계를 달성했다. 이는 차세대 대규모 심도 조사와 은하 형성·진화 연구에 중요한 도구가 될 전망이다.