딥러닝 기반 지진 신호 잡음 제거와 분해: DeepDenoiser 혁신

본 논문은 지진 데이터 전처리에서 핵심적인 과제인 잡음 제거와 신호·잡음 분리를 딥러닝 기반으로 해결하고자 하는 시도이다. 기존의 스펙트럼 필터링은 신호와 잡음이 동일 주파수 대역에 존재할 경우 효과가 급격히 감소하고, 필터 파라미터 선택이 주관적이며 파형 왜곡을 초래한다는 문제점을 가지고 있다. 이러한 한계를 극복하기 위해 저자들은 DeepDenoiser라는 새로운 프레임워크를 제안한다. DeepDenoiser는 먼저 입력 지진 파형을 Short‑Time Fourier Transform(STFT)으로 변환한다. 변환된 복소수 스펙트럼은 실수와 허수 두 채널로 분리되어 네트워크에 입력된다. 네트워크 구조는 U‑Net을 변형한 완전합성곱 신경망으로, 3 × 3 커널을 사용한 2D 합성곱 층을 여러 단계 쌓아 깊이‑축소와 깊이‑확장을 반복한다. 깊이‑축소 단계에서는 스트라이드 2 × 2를 적용해 차원을 절반으로 줄이며, 이 과정에서 입력 스펙트럼을 고도로 희소한 특성 공간으로 압축한다. 중간 bottleneck 이후에는 전치 합성곱(Deconvolution) 층을 통해 차원을 다시 확대한다. 각 축소‑확장 단계 사이에는 skip connection을 두어 얕은 층의 세부 정보를 깊은 층에 전달함으로써 복원 정확도를 높이고 학습 안정성을 확보한다. 마지막 층에서는 소프트맥스 함수를 적용해 두 개의 마스크 M_S(t,f)와 M_N(t,f)를 출력한다. 이 마스크는 0~1 사이의 값을 가지며, 각각 신호와 잡음에 대한 가중치를 의미한다. 마스크는 식 (3)·(4)와 유사하게 설계되어, 잡음이 강한 영역에서는 신호 마스크가 낮아지고 잡음 마스크가 높아지는 형태로 자동 조정된다. 학습 과정에서는 교차 엔트로피 손실 함수를 사용해 예측 마스크와 정답 마스크 사이의 차이를 최소화한다. 정답 마스크는 고신호‑대‑잡음 비(고SNR) 지진 파형과 다양한 실제 잡음 파형을 합성해 만든 데이터셋에서 직접 계산한다. 구체적으로, 북부 캘리포니아 지진망(NCSN)에서 수집한 고SNR 지진 파형 56 345개와 비지진 잡음 179 233개를 무작위로 조합해 다양한 SNR(−5 dB~20 dB) 수준의 합성 파형을 만든다. 이때 잡음은 실제 관측된 바다파, 바람, 교통, 전기 잡음 등 다양한 형태를 포함한다. 합성 파형은 동일한 STFT 파라미터로 변환된 뒤, 실수·허수 두 채널로 네트워크에 공급된다. 데이터는 학습, 검증, 테스트 셋으로 무작위 분할되며, 검증 셋은 하이퍼파라미터 튜닝과 과적합 방지를 위해 사용한다. 실험 결과는 크게 세 부분으로 제시된다. 첫째, 테스트 셋에 대한 정량적 평가에서 DeepDenoiser는 평균 SNR 향상을 약 15 dB 달성했으며, 파형의 진폭과 형태는 원본과 거의 일치한다. 특히 첫 도착파와 고주파 성분이 잘 보존되어, 이후의 위상 측정이나 파라미터 추정에 유리하다. 둘째, 다양한 잡음 유형에 대한 정성적 분석에서는 밴드 제한 잡음, 저주파 배경 잡음, 시간에 따라 변하는 사이클릭 잡음 등 세 가지 대표 잡음에 대해 각각 맞춤형 마스크를 자동으로 생성한다. 특히 사이클릭 잡음처럼 주파수 대역이 시간에 따라 이동하는 경우에도 전통적인 고정 임계값 방식이 실패하는 반면, DeepDenoiser는 마스크를 동적으로 조정해 효과적으로 억제한다. 셋째, 순수 잡음만 포함된 입력에 대해서는 신호 마스크가 거의 0에 수렴하고 잡음 마스크가 1에 가까워, 잡음 자체를 그대로 복원한다는 특성을 보인다. 이는 환경 잡음 분석이나 잡음 기반 연구(예: 대기 잡음 상관)에서 잡음 데이터 손실 없이 전처리할 수 있음을 의미한다. 일반화 능력도 검증되었다. 실제 북부 캘리포니아 지역에서 기록된 91 000개의 저SNR 지진 파형에 적용했을 때, DeepDenoiser는 여전히 SNR을 평균 15 dB 정도 향상시키며, 파형 왜곡은 최소 수준에 머물렀다. 이는 합성 데이터만으로 학습했음에도 불구하고 실제 현장 데이터에 강인하게 적용될 수 있음을 보여준다. 비교 실험에서는 Obspy의 “Trigger/Picker Tutorial” 파형을 이용해 전통적인 대역통과 필터와 일반 교차 검증(GCV) 기반 잡음 제거와 성능을 비교했다. 평가 지표는 SNR 개선, 최대 진폭 복원 정확도, 상관계수, 도착시간 오차 등이다. DeepDenoiser는 모든 지표에서 기존 방법을 앞섰으며, 특히 낮은 SNR(≤2 dB) 구간에서도 신호 진폭을 과도하게 감소시키지 않고 잡음만 효과적으로 억제했다. GCV 방법은 잡음과 신호를 동시에 감쇠해 진폭이 크게 감소하고, 도착시간 오차가 증가하는 경향을 보였다. 논문의 한계점으로는 STFT 파라미터 선택이 결과에 영향을 미친다는 점, 비가산성 잡음(예: 비선형 기계 진동)에는 마스크 기반 접근이 충분히 대응하지 못할 가능성, 대규모 합성 학습 데이터 구축에 필요한 연산 자원, 실시간 적용을 위해 GPU 가속이 필요하다는 점을 들었다. 향후 연구 방향으로는 Wavelet 기반 입력, 다채널(3‑컴포넌트) 확장, 비지도 학습을 통한 잡음 유형 자동 분류, 그리고 경량화 모델을 통한 현장 실시간 적용 등이 제시되었다. 결론적으로, DeepDenoiser는 시간‑주파수 도메인에서 희소 표현과 비선형 매핑을 동시에 학습함으로써, 신호와 잡음이 겹치는 복잡한 상황에서도 높은 SNR 개선과 파형 보존을 동시에 달성한다. 이는 지진 탐지, 마이크로‑지진 모니터링, 환경 잡음 전처리 등 다양한 지진학 응용 분야에 즉각적인 활용 가치를 제공한다.