단계 신호 복원을 위한 확산 모델 기반 알고리즘

초록

본 논문은 단일 분자 검출에서 흔히 나타나는 단계적 신호를, 전통적인 필터링이나 HMM 기반 방법이 갖는 한계를 극복하고자 확산 모델(DDPM)을 활용한 SSDM(Stepwise Signal Diffusion Model)으로 denoise하는 방법을 제안한다. 1‑D U‑Net 구조와 attention 메커니즘을 결합한 네트워크를 학습시켜 다양한 SNR 조건에서 신호 레벨과 전이 시점을 정확히 복원함을 실험적으로 입증한다.

상세 분석

본 연구는 단계적(stepwise) 신호의 특성을 고려한 새로운 denoising 프레임워크를 제시한다는 점에서 의미가 크다. 먼저, 기존의 주파수 영역 필터링은 고주파 성분이 신호 전이(edge)와 겹쳐 효과적인 노이즈 억제가 어렵고, HMM은 상태 수와 전이 확률을 사전에 정의해야 하는 제한이 있다. 이러한 문제점을 해결하기 위해 저자들은 확산 확률 모델(DDPM)을 기반으로 한 역전파 과정을 이용해 노이즈를 점진적으로 제거한다.

핵심 기술은 두 가지로 요약할 수 있다. 첫째, 전방 확산 과정에서 Gaussian 노이즈를 단계적으로 추가하고, 역방향 과정에서 네트워크가 현재 시점 t의 노이즈 ε̂(x_t, t)를 예측하도록 설계하였다. 여기서 시간 스텝 t는 코사인 스케줄에 따라 β_t가 조절되며, 전체 1000 스텝을 사용해 충분한 해상도를 확보한다. 둘째, 네트워크 아키텍처는 1‑D U‑Net에 residual block과 attention block을 결합한 형태로, 다중 스케일 특징을 보존하면서 장거리 의존성을 학습한다. 특히, attention block은 전이 구간의 급격한 변화와 전역적인 신호 패턴을 동시에 포착하도록 설계돼, 전통적인 컨볼루션만으로는 어려운 전이점 검출 정확도를 크게 향상시킨다.

학습 데이터는 마코프 연쇄를 이용해 2‑, 3‑, 4‑state 단계 신호를 시뮬레이션하고, 다양한 SNR(0.25~5)에서 Gaussian 노이즈를 추가해 생성하였다. 각 시그널은 1000 포인트 길이이며, 총 10,800개의 학습 샘플과 3,600개의 독립 테스트 샘플을 확보했다. 데이터 생성 과정에서 전이율 행렬, 상태 수, 진폭 차이 등을 체계적으로 변형함으로써 모델의 일반화 능력을 검증하였다.

손실 함수는 기본 Smooth L1 loss에 두 가지 가중치를 추가한다. amplitude weight는 큰 노이즈 잔차를 억제하고, edge weight는 1차·2차 차분을 이용해 전이점 주변에 가중치를 부여한다. 이를 통해 신호 진폭 복원과 전이점 검출을 동시에 최적화한다. 또한, 중요도 샘플링(p(t)∝exp(−3t/T))을 적용해 작은 t(노이즈가 적은 단계)에서 학습 효율을 높였다.

성능 평가는 MSE(진폭 복원)와 F1-score(전이점 검출)를 사용했으며, 두 지표를 종합한 composite score를 제안했다. 실험 결과, SSDM은 SNR이 1 이하인 저신호 환경에서도 MSE 0.0041, F1 0.96, composite score 8.31을 기록, 전통적인 저역통과 필터와 HMM을 크게 앞섰다. 특히, 전이점 검출 정확도가 95% 이상으로, 기존 방법이 70% 수준에 머물던 것을 크게 개선했다.

실제 데이터 적용에서도 두 가지 사례가 제시된다. 첫째, sm‑FRET 광학 신호(100 Hz)에서는 노이즈가 심한 구간에서도 단계 높이와 전이 시점을 정확히 복원해, 분자 구조 변화를 정량화하는 데 기여했다. 둘째, λ‑DNA 나노포어 전류 신호(10 kHz)에서는 전이 구간이 짧고 잡음이 강했음에도 불구하고, SSDM이 원본 신호와 거의 일치하는 복원 결과를 보여, 전류 기반 단일 분자 분석에 유용함을 입증했다.

한계점으로는 (1) 현재 모델이 1‑D 시계열에 특화돼 있어 다차원(예: 이미지 기반 단일 분자 현미경) 데이터에 바로 적용하기 어렵다. (2) 학습에 사용된 노이즈가 Gaussian에 한정돼 있어, 실제 실험에서 발생하는 비가우시안 잡음(예: 플리커, 전기적 스파이크)에는 추가적인 적응이 필요할 수 있다. (3) 전이점 검출을 위한 임계값이 상태 수에 따라 사전 정의돼 있어, 상태 수가 사전에 알려지지 않은 경우 자동화된 모델 선택이 요구된다.

향후 연구 방향은 (i) 비가우시안 노이즈 모델링을 포함한 확산 스케줄 확장, (ii) 트랜스포머 기반 장거리 의존성 모델과의 하이브리드 설계, (iii) 상태 수를 자동 추정하는 베이지안 프레임워크와의 결합, (iv) 실시간 스트리밍 데이터에 대한 온라인 추론 최적화 등을 제시한다. 이러한 확장은 SSDM을 다양한 단일 분자 측정 플랫폼에 보편적으로 적용할 수 있게 할 것이다.