혼합 잡음 속 LISA 중력파 탐지를 위한 CWT 잠재공간 단일 클래스 점수화

초록

본 연구는 LISA 관측 데이터의 연속 웨이브렛 변환(CWT) 스칼로그림을 이용해 혼합 잡음(confusion‑limited) 환경에서 단일 클래스(one‑class) 점수화를 평가한다. 자동인코더(AE) 잠재공간에 대한 기하학적 거리와 잠재밀도 기반 가능도 점수를 비교했으며, 가능도 점수가 전반적으로 우수함을 확인하였다.

상세 요약

본 논문은 LISA(Laser Interferometer Space Antenna) 관측에서 발생하는 혼합 잡음, 즉 다수의 미해결 이진 신호가 겹쳐 검출이 어려운 상황을 목표로 한다. 데이터 전처리 단계에서 시간‑주파수 변환으로 연속 웨이브렛 변환(CWT) 스칼로그림을 생성하고, 이를 자동인코더(AE)로 압축해 저차원 잠재공간(latent space)에 매핑한다. 저차원 표현은 원본 신호의 주요 구조적 특징을 보존하면서 잡음에 대한 강인성을 제공한다는 가정 하에, 두 가지 점수화 전략을 설계하였다. 첫 번째는 “기하학적(geometry‑style)” 접근법으로, 재구성 오류와 잠재공간 내 샘플 간 거리(예: k‑최근접 이웃 거리)를 결합해 오프‑매니폴드(off‑manifold) 정도를 정량화한다. 두 번째는 “가능도(likelihood‑style)” 접근법으로, 잠재공간에 가우시안 혼합 모델(GMM) 혹은 커널 밀도 추정(KDE) 등을 적용해 각 샘플의 확률밀도값을 직접 계산한다.

실험은 동일한 데이터 생성 파이프라인과 전처리 과정을 고정한 뒤, 서로 다른 무작위 시드(seed) 3개에 대해 교차 검증을 수행했다. 평가 지표는 ROC‑AUC와 PR‑AUC이며, 특히 PR‑AUC는 불균형 데이터(양성 비율이 낮은 상황)에서 민감도를 잘 반영한다. 결과는 가능도 기반 점수가 일관되게 우수함을 보여준다. 구체적으로, 잠재공간만을 이용한 가능도 점수는 평균 ROC‑AUC 0.8555 ± 0.0181, PR‑AUC 0.9219 ± 0.0118을 기록했으며, 반면 기하학적 거리와 재구성 오류를 결합한 “AE + manifold” 방식은 ROC‑AUC 0.7663 ± 0.0450, PR‑AUC 0.8667 ± 0.0255에 머물렀다.

추가 실험으로 형태학적(morphology) 정보를 보강한 변형과, 대조학습(contrastive) 기반 임베딩을 적용한 변형을 시험했지만, 전자는 소폭의 개선만 보였고 후자는 안정적인 성능 향상을 제공하지 못했다. 이는 LISA와 같은 고차원, 고잡음 환경에서 대조학습이 충분히 일반화되기 위해서는 더 큰 데이터셋과 정교한 샘플링 전략이 필요함을 시사한다.

논문은 또한 실험 재현성을 위해 코드, 모델 가중치, 시드 정보 등을 공개했으며, 이는 향후 LISA 이상 탐지(anomaly detection) 및 다중 신호 분리 연구에 중요한 기반이 될 것이다. 전체적으로, 잠재밀도 모델링이 오프‑매니폴드 거리 기반 방법보다 더 정밀한 이상 탐지를 가능하게 함을 입증했으며, 이는 혼합 잡음 상황에서 신호 검출 효율을 크게 향상시킬 잠재력을 가진다.