그래프 신호 정규화 기반 디노이징 및 파라미터 추정

초록

본 논문은 이미지 복원에서 사용된 Regularization by Denoising(RED) 프레임워크를 그래프 신호 처리에 확장한다. 그래프 라플라시안, GAT, PnP‑ADMM 등 기존 그래프 디노이저가 RED의 두 가지 수학적 조건(지역 동질성, 강한 수동성)을 만족함을 이론·실험적으로 입증하고, 깊은 알고리즘 언롤링과 Noise2Noise 기법을 활용한 지도·비지도 파라미터 추정 방법을 제안한다. 합성·실제 데이터 실험에서 제안 방법이 기존 모델 기반·데이터 기반 방법보다 MSE 측면에서 우수함을 보인다.

상세 분석

본 연구는 RED가 요구하는 “지역 동질성”(D(c·x)=c·D(x) 근처 c=1)과 “강한 수동성”(스펙트럼 반경 ≤1) 두 조건을 그래프 신호 디노이저에 적용 가능한지 검증하는 데 초점을 맞춘다. 먼저 그래프 라플라시안 정규화(LR) 방식은 라플라시안 행렬 L이 신호와 독립적으로 정의될 때, 혹은 거리 기반 가중치 혹은 GMRF 기반 라플라시안 추정 시에도 동질성이 유지됨을 수학적으로 증명한다. 라플라시안은 양의 준정부호이므로 (I+αL)⁻¹의 최대 고유값이 1 이하가 되어 강한 수동성도 만족한다.

다음으로 최신 그래프 신경망 기반 디노이저인 Graph Attention Network(GAT)와 PnP‑ADMM을 실험적으로 검증한다. 작은 스케일링 계수 c에 대해 D(c·y)와 c·D(y)의 차이가 미미함을 그래프 신호와 3‑D 포인트 클라우드 데이터에 대해 확인했으며, ‖D(y)‖₂/‖y‖₂ ≤ 1 임을 통해 강한 수동성도 충족함을 보여준다. 이는 고성능 GNN이 충분히 학습될 경우 자연스럽게 RED 조건을 만족한다는 실용적 시사점을 제공한다.

RED 기반 최적화는 목적함수
  ½‖x−y‖₂² + α·½ xᵀ(x−D_graph(x))
의 형태이며, 위 조건 덕분에 정규화 항의 그래디언트가 단순히 (x−D_graph(x)) 로 표현된다. 따라서 기존 이미지 RED에서 사용된 경사 하강법, ADMM 등을 그대로 그래프 신호에 적용할 수 있다.

파라미터 추정 부분에서는 두 가지 접근을 제시한다. 지도 학습에서는 깊은 알고리즘 언롤링(DAU)을 이용해 각 반복 단계의 스텝 사이즈와 α 등을 역전파로 학습한다. 비지도 상황에서는 Noise2Noise 아이디어를 차용해 동일 신호에 서로 다른 잡음을 추가한 쌍을 만든 뒤, 동일한 네트워크를 최소화하도록 학습한다. 이렇게 하면 깨끗한 레이블이 없어도 α와 학습 파라미터를 효율적으로 추정할 수 있다.

실험에서는 합성 그래프 신호(스펙트럼 기반 저역통과, 고역통과 등)와 실제 데이터(센서 네트워크, 뇌파(EEG), 3‑D 포인트 클라우드)에서 기존 라플라시안 정규화, GAT 기반 디노이저, PnP‑ADMM, 그리고 최신 GNN 기반 방법들과 비교하였다. 평균 제곱 오차(MSE) 기준으로 제안 RED‑DAU 및 RED‑Noise2Noise가 모두 우수한 성능을 보였으며, 특히 비지도 설정에서 기존 비지도 방법보다 10‑15% 정도 MSE가 감소했다. 또한, RED 구조는 명시적인 목적함수를 제공하므로 해석 가능성이 높고, 수렴 속도도 언롤링된 알고리즘 덕분에 기존 PnP‑ADMM 대비 2‑3배 빠르게 수렴한다.

이 논문은 그래프 신호 처리 분야에 RED를 처음 도입함으로써 모델 기반과 데이터 기반 접근법을 자연스럽게 결합하고, 파라미터 튜닝을 자동화하는 새로운 패러다임을 제시한다.