고성능 무학습 파이프라인을 이용한 적응형 웨이브렛‑베이지안 랜덤 텔레그래프 신호 분석

초록

본 논문은 백색·핑크 잡음이 섞인 다중 레벨 랜덤 텔레그래프 신호(RTS)를 고속으로 정밀 분석하기 위해, 자동 파라미터 선택이 가능한 이중 트리 복소 웨이브렛 변환(DTCWT) 기반 잡음 억제와, 베이지안 확률 모델을 이용한 디지털화 단계를 결합한 무학습 파이프라인을 제안한다. 합성 데이터와 실제 실험 데이터를 통해 기존 이동 평균, FFT, 신경망 기반 방법 대비 10배 이상 빠른 처리 속도와 83배 향상된 정확도를 입증한다.

상세 분석

이 연구는 RTS 분석의 두 핵심 과제—잡음 억제와 레벨 디지털화—를 각각 최적화된 알고리즘으로 해결한다. 첫 번째 단계인 DTCWT 잡음 억제는 전통적인 웨이브렛 변환이 갖는 시프트 민감도와 경계 손실 문제를 보완한다. 저자들은 신호 길이와 잡음 강도에 따라 자동으로 분해 레벨을 선택하고, 하드/소프트 임계값을 데이터‑드리븐 방식으로 결정하는 규칙을 제시한다. 이를 통해 백색 잡음에 대해 SNR을 평균 12 dB까지 향상시키며, 핑크 잡음의 저주파 성분도 효과적으로 차단한다.

두 번째 단계인 베이지안 디지털화는 KDE(핵밀도 추정)로 사전 레벨 후보를 추출한 뒤, 각 샘플이 특정 레벨에 속할 확률을 관측값과 사전 전이 확률(마코프 체인 형태)로 결합한다. 중요한 점은 반복적 EM이나 MCMC와 같은 비용이 큰 최적화 없이, 한 번의 전방-후방 연산으로 MAP 추정값을 얻는다는 것이다. 이 접근법은 특히 다중 트랩(3레벨 이상) 상황에서 레벨 겹침과 핑크 잡음에 의해 발생하는 가짜 피크를 억제하고, 트랩 수 추정 오류(N_trap error)를 5 % 이하로 낮춘다.

성능 평가에서는 1,800개의 합성 RTS(길이 100 k 샘플)와 실제 반도체 디바이스 데이터를 사용했다. 비교 대상은 MA+Proximity, FFT+Proximity, DAEUBL+Proximity(신경망 기반)이다. 제안 파이프라인은 평균 처리 시간 0.12 s(100 k 샘플)로 DAEUBL 대비 83배 가속했으며, 평균 절대 오차(MAE)와 평균 제곱 오차(MSE)에서도 2~3배 개선을 보였다. 특히 핑크 잡음 비율이 20 % 이상일 때도 레벨 식별 정확도가 92 %를 유지한다.

또한 메모리 사용량이 O(L) 수준으로, 수십억 샘플을 GPU 없이도 단일 CPU 코어에서 실시간(>10 kHz) 처리할 수 있다. 이는 기존 신경망 모델이 요구하는 대규모 배치 메모리와 대비되는 장점이다.

전반적으로 이 논문은 “학습‑프리”라는 설계 철학을 고수하면서도, 파라미터 자동 튜닝과 베이지안 추론을 통해 다양한 잡음 환경과 복잡한 다중 레벨 RTS에 대해 높은 정확도와 속도를 동시에 달성한 점이 가장 큰 기여이다. 향후 확장 가능성으로는 비정상적인 비포아송(dwell‑time) 분포, 비선형 트랩 상호작용, 그리고 실시간 임베디드 시스템 적용이 제시된다.