UHECR 라디오 신호를 위한 딥러닝 기반 잡음 제거 모델

초록

본 논문은 GRAND 배열에서 관측되는 초고에너지 우주선(UHECR) 라디오 펄스를, 시간·주파수 복합 입력을 활용한 심층 컨볼루션 오토인코더로 잡음에서 복원하는 방법을 제시한다. 41만 개의 시뮬레이션 트레이스(실제 전자기 파동·천구 배경·기기 잡음 포함)로 학습한 모델은 50–200 MHz 대역에서 평균 15–23 dB의 SNR 향상을 달성하고, Hilbert‑envelope 기반 기준 대비 파형 NMSE를 약 10배 감소시킨다. 저신호‑SNR 구간에서 안테나당 유효 타이밍 정보를 2–3배, 에너지 재구성에 필요한 안테나 수를 3–4배 늘려 방향·에너지 재구성 정확도를 크게 개선한다.

상세 분석

이 연구는 GRAND와 같은 초대형 라디오 배열에서 발생하는 ‘극히 약한’ UHECR 신호를 잡음(은하 배경 + 기기 잡음)으로부터 효과적으로 분리하기 위해 두 가지 혁신적인 설계를 도입한다. 첫째, 입력을 시간 도메인 파형과 실수‑FFT(크기·위상) 두 개의 주파수 도메인 표현으로 동시에 제공함으로써, 네트워크가 순간적인 펄스 형태와 넓은 스펙트럼 특성을 동시에 학습하도록 만든다. 이는 기존의 단일 도메인(시간 혹은 주파수) 필터링이 놓치기 쉬운 비정상적 RFI나 비가우시안 잡음에 대한 강인성을 부여한다.

둘째, 네트워크 구조는 1‑D 컨볼루션 + Residual Block + Max‑Pooling을 각각 시간·주파수 경로에 적용한 뒤, Fusion 레이어에서 두 경로를 채널 차원에서 결합한다. 이렇게 형성된 잠재 표현(latent code)은 전역적인 스펙트럼 정보와 국소적인 파형 모양을 모두 내포한다. 디코더는 Transposed‑Conv 레이어를 통해 압축된 특징을 원래 시계열 길이(1024 샘플)로 복원한다. 하이퍼파라미터 탐색(Ray Tune) 결과, 시간 경로는 128→256 채널, 주파수 경로는 64→256 채널, 디코더는 32→8→3 단계로 설계된 것이 최적이었다.

데이터 생성 측면에서는 ZHAireS 시뮬레이터로부터 얻은 ‘클린’ 전기장 파형에, GRAND‑like RF 체인(저잡음 증폭기·필터·ADC)과 가우시안 백그라운드 잡음을 합성하였다. 특히, 실제 관측에서 중요한 GPS 타이밍 jitter(수 ns)와 주파수‑의존 전송 함수(밴드패스+게인)를 toy 모델로 구현해 학습 데이터가 현실성을 유지하도록 했다. 전체 410 673개의 다채널(3극화) 트레이스는 80 %/10 %/10 % 비율로 학습·검증·테스트 셋으로 분할되었으며, 테스트 셋은 SNR이 0–6 정도의 저신호 영역에 집중돼 있다.

성능 평가는 (i) 출력‑SNR 향상, (ii) 정규화 평균제곱오차(NMSE) 감소, (iii) Hilbert‑envelope 기반 전통적 디노이저와의 비교, (iv) 잡음 전용 윈도우에 대한 위양성(pseudo‑pulse) 발생 여부, (v) 재구성된 파형을 이용한 안테나별 타이밍 정확도와 이벤트 레벨 방향·에너지 재구성 개선을 포함한다. 결과는 평균 15–23 dB의 SNR 증가와 NMSE 10배 감소를 보여준다. 특히 SNR≈5–6 구간에서 유효 타이밍을 제공하는 안테나 수가 2–3배 늘어나며, 파형 형태까지 정확히 복원할 경우 에너지 재구성에 필요한 안테나 수가 3–4배 증가한다. 이는 희박한 배열에서도 이벤트당 방향 오차를 현저히 감소시키고, 감도 한계를 낮춰 탐지 효율을 크게 높인다.

마지막으로, 잡음 전용 입력에 대해 모델이 거의 0에 가까운 출력(스파이크 없음)을 보이며 위양성 발생을 억제함을 확인했다. 이는 실제 운영 시 자동 트리거와 결합했을 때, 불필요한 데이터 양을 최소화하면서도 미세 신호를 회복할 수 있음을 의미한다. 전체적으로, 시간·주파수 복합 입력과 Residual‑Fusion 구조를 활용한 딥러닝 디노이저는 초대형 라디오 배열의 저신호 탐지 한계를 뛰어넘는 강력한 도구로 자리매김한다.