컨볼루션 신경망과 UMAP을 결합한 차세대 은하 형태 자동 분류 모델

초록

본 연구는 사전 학습된 ConvNeXt 모델로 은하 이미지의 고차원 특징을 추출하고, UMAP을 이용해 토폴로지를 보존하면서 차원을 축소한다. 99 806개의 COSMOS 은하(I‑밴드, 0.2 < z < 1.2, I < 25)에 적용해 군집 수를 20으로 최적화하고, 이를 물리적 형태 5가지로 통합해 전체 샘플의 51 %를 성공적으로 분류하였다. 전처리 단계에서 CAE와 APCT를 도입해 잡음과 회전 변동성을 최소화했으며, 기존 USmorph 대비 연산량을 크게 절감했다. 대규모 미래 서베이(CSST) 적용 가능성을 제시한다.

상세 분석

이 논문은 기존 USmorph 프레임워크를 두 차원에서 개선한다. 첫 번째는 특징 추출 단계에서 전통적인 CAE‑VAE 기반 인코더 대신, 2022년 발표된 ConvNeXt(대규모 이미지넷 사전 학습 모델)를 전이 학습 방식으로 활용한다. ConvNeXt는 ResNet‑style 블록에 스테레오형 레이어 정규화와 큰 커널을 도입해 표현력이 뛰어나며, 은하 이미지와 같은 천문학적 데이터에 바로 적용해도 높은 일반화 성능을 보인다. 두 번째는 차원 축소 단계에서 UMAP을 선택한 이유가 명확하다. UMAP은 t‑SNE보다 계산 복잡도가 낮고, 근접 이웃 구조를 보존하면서 전역 토폴로지를 유지한다. 특히 은하 형태는 회전·스케일·노이즈에 민감한데, UMAP의 ‘거리 보존’ 특성이 이러한 변동성을 억제하고 클러스터 경계가 명확하도록 돕는다.

전처리 파이프라인은 세 단계로 구성된다. (1) 100 × 100 픽셀로 중앙을 기준으로 크롭하고, GALAPAGOS를 이용해 유효 반경을 측정해 충분히 정보를 보존했는지 검증한다. (2) Convolutional AutoEncoder(CAE)로 고주파 잡음을 제거한다. 논문에 제시된 CAE 구조는 4개의 인코더‑디코더 블록으로, 각 블록마다 Conv‑ReLU‑BatchNorm‑MaxPool을 사용해 압축률을 1/16 수준까지 높인다. (3) Adaptive Polar Coordinate Transformation(APCT)으로 회전 불변성을 확보한다. APCT는 이미지의 밝기 극값을 연결해 초기 극축을 정의하고, 0.05 rad 간격으로 회전시켜 극좌표로 변환한 뒤, 좌우 대칭을 적용해 중심 구조를 강조한다. 이 과정은 CNN이 회전 변동성을 학습해야 하는 부담을 크게 줄인다.

특징 추출 후, ConvNeXt의 마지막 글로벌 평균 풀링 레이어에서 1024 차원의 벡터를 얻고, 이를 UMAP에 입력해 2‑D 임베딩을 만든다. UMAP 파라미터는 n_neighbors = 30, min_dist = 0.1로 설정했으며, 이는 은하 형태 간의 미세한 차이를 유지하면서도 군집 간 격리를 강화한다. 이후 Bagging‑based voting clustering(다중 K‑means와 Agglomerative clustering을 앙상블)으로 20개의 초기 군집을 도출하고, 전문가 검토와 물리적 파라미터(색, 질량, SFR 등) 분포를 기반으로 5가지 전형적인 형태(조기형, 원반형, 불규칙형, 과밀형, 퀘이사형)로 통합한다.

성능 평가에서는 질량 > 10⁹ M⊙인 은하를 대상으로 Sersic index, 색‑색도, 별질량‑광도 관계 등을 비교했다. 5가지 형태별 평균 Sersic n값이 1.2~4.5 사이에 분포하고, 색‑색도 다이어그램에서 기대되는 ‘청색 구름‑적색 거품’ 전이 경로를 재현했다. 이는 기존 지도학습 기반 분류와 통계적으로 유의미하게 일치함을 보여준다. 또한, 군집 수를 50에서 20으로 감소시켰음에도 전체 정확도(전문가 라벨 대비)는 3 % 이하 감소에 그쳐, 연산 시간은 약 60 % 절감되었다.

한계점으로는 (1) 전체 샘플 중 49 %가 ‘분류 불가’ 상태로 남았으며, 이는 낮은 S/N 혹은 복합 구조(예: 합병 중인 은하) 때문일 가능성이 있다. (2) UMAP의 비선형 매핑은 재현성이 낮아 동일 파라미터라도 시드에 따라 군집 경계가 미세하게 변한다는 점이 있다. 향후 연구에서는 semi‑supervised 접근법(소량 라벨을 활용한 클러스터 정제)이나, Graph Neural Network 기반 토폴로지 보강을 통해 이러한 문제를 보완할 수 있다.

결론적으로, ConvNeXt + UMAP 조합은 고차원 이미지 특징을 효율적으로 압축하고, 대규모 천문 데이터셋에 적용 가능한 실시간 분류 파이프라인을 제공한다. CSST와 같은 차세대 광학 서베이에서 실시간 형태 분류 및 후속 과학 분석(예: 은하 진화 시뮬레이션 검증)으로의 확장이 기대된다.