딥러닝으로 보는 AGN‑호스트 은하 광도 분해

초록

본 연구는 JWST 모의 이미지와 실제 관측을 이용해, 중앙 점광원을 나타내는 AGN 기여도 $f_{\rm AGN}$를 빠르고 정확하게 추정하는 딥러닝 모델(Zoobot)을 개발하였다. 훈련된 모델은 평균 편차 –0.002, RMSE 0.013, RAE 0.076을 기록했으며, 전통적인 GALFIT 대비 오차가 10배 이상 낮았다. 실제 JWST COSMOS‑WEB 데이터에 적용한 결과, X‑ray 및 MIR 선택 AGN의 33%와 15%가 $f_{\rm AGN}>0.1$ 기준으로도 검출되었다.

상세 분석

이 논문은 AGN와 호스트 은하의 광도 분해 문제를 기존 2차원 프로파일 피팅 방식(GALFIT)에서 딥러닝 기반 접근법으로 전환함으로써, 정확도와 처리 속도 모두에서 획기적인 개선을 달성했다. 훈련 데이터는 IllustrisTNG 시뮬레이션에서 추출한 은하들을 JWST NIRCam F150W 필터의 실제 PSF를 이용해 다양한 $f_{\rm AGN}$(0–0.9) 수준으로 합성한 10만 장 이상의 모의 이미지로 구성되었다. 이미지 전처리는 실제 관측과 동일한 배경, 노이즈, PSF 변동성을 반영했으며, 이는 모델이 실제 데이터에 바로 적용될 수 있는 일반화 능력을 부여한다.

딥러닝 모델은 Zoobot(이미지 분류에 특화된 CNN) 구조를 기반으로 하며, 최종 출력은 연속적인 $f_{\rm AGN}$ 값이다. 손실 함수는 평균 제곱 오차(MSE)를 사용했으며, 학습 과정에서 데이터 증강(회전, 플립, 스케일 변환)과 조기 종료(Early Stopping)를 적용해 과적합을 방지했다. 검증 단계에서는 $f_{\rm AGN}$ 별, 적색 이동(z), 신호대잡음비(S/N), 은하 크기(Re) 등 다양한 파라미터에 대한 성능을 상세히 분석했다. 결과적으로 $f_{\rm AGN}>0.1$ 구간에서는 편차가 거의 없으며, $f_{\rm AGN}<0.05$에서는 약간의 편향이 존재하지만 RMSE가 0.02 이하로 여전히 우수했다.

전통적인 GALFIT과 비교했을 때, GALFIT은 PSF 불일치와 복잡한 은하 구조(특히 merger와 irregular)에서 수렴 실패하거나 로컬 최소점에 머무르는 문제가 빈번했다. GALFIT의 평균 편차는 –0.02, RMSE 0.12, RAE 0.19, 이상치 비율 19%로, 딥러닝 모델에 비해 5~10배 큰 오차를 보였다. 또한 GALFIT은 각 은하마다 초기 파라미터 설정과 다중 컴포넌트 모델링이 필요해 전체 파이프라인이 수십 초에서 수분까지 소요되는 반면, 훈련된 딥러닝 모델은 GPU 환경에서 0.01 s 이하의 추론 시간을 기록했다.

실제 JWST COSMOS‑WEB 데이터에 모델을 적용한 결과, X‑ray 선택 AGN 중 33%, MIR 선택 AGN 중 15%가 $f_{\rm AGN}>0.1$ 기준으로 검출되었다. 이는 기존 X‑ray/MIR 선택만으로는 놓칠 수 있는 저광도 AGN를 이미지 기반으로 보완할 수 있음을 시사한다. 또한, 모델은 복잡한 형태의 은하에서도 높은 성공률(>95%)을 유지했으며, PSF 변동성을 자동으로 학습해 별도의 PSF 매칭 과정이 필요 없다는 장점이 있다.

한계점으로는 훈련에 사용된 시뮬레이션이 실제 은하의 복잡한 물리적 과정(예: 먼지 분포, 비대칭 구조)을 완전히 재현하지 못할 수 있다는 점이다. 또한, 매우 높은 $f_{\rm AGN}$(>0.8)에서는 AGN와 호스트가 거의 구분되지 않아 오차가 증가한다. 향후 작업에서는 다양한 시뮬레이션(예: EAGLE, SIMBA)과 멀티밴드 이미지(다중 필터)를 결합해 모델의 일반화 능력을 강화하고, 베이지안 불확실성 추정 기법을 도입해 예측 신뢰도를 정량화할 계획이다.

전반적으로 이 연구는 딥러닝이 AGN‑호스트 분해 문제에 있어 전통적인 피팅 방법을 대체하거나 보완할 수 있음을 실증적으로 보여주며, 대규모 JWST 및 차세대 광학/적외선 서베이에서 AGN 식별과 물리적 특성 추출을 자동화하는 데 중요한 기반을 제공한다.