스펙트럼 엔트로피 기반 Eilers‑Whittaker 스무딩 파라미터 자동 선택법

초록

본 논문은 Eilers‑Whittaker 스무더의 정규화 파라미터 λ를 선택하는 새로운 방법을 제안한다. 잔차와 스무딩된 신호의 스펙트럼 엔트로피를 로그 좌표에 매핑하고, 인접 점 사이의 유클리드 거리를 S‑curve로 만든 뒤 절대 최대값에 해당하는 λ를 최적값으로 채택한다. 시뮬레이션 및 실제 실험 데이터에서 기존의 LOOCV와 V‑curve 대비 높은 정확도와 잡음 상관관계에 대한 강인성을 보였다.

상세 분석

Eilers‑Whittaker 스무더는 데이터 y(t)를 최소화 함수 Q = R + λS(식 5) 로 최적화하는데, 여기서 R은 원 데이터와 스무딩된 신호 사이의 제곱 잔차, S는 λ에 의해 가중된 차분 연산자의 제곱합이다. λ가 클수록 스무딩 강도가 증가하고, 작을수록 원 데이터에 가까운 결과가 얻어진다. 기존에는 LOOCV, L‑curve, V‑curve 등이 λ 선택에 활용되었지만, 특히 시계열 데이터에서 잡음이 상관성을 가질 경우 LOOCV는 과소평가, V‑curve는 여전히 편향된 λ 값을 제공한다는 한계가 있다.

본 연구는 이러한 문제를 해결하기 위해 스펙트럼 엔트로피(H_S)를 새로운 선택 기준으로 도입한다. 신호 f(t)의 푸리에 변환 F(q)를 정규화한 뒤, 엔트로피 H_S = -∑_q P_F(q) log P_F(q) 로 정의한다. λ_i마다 잔차 R_i와 스무딩된 신호 차분 Dŝ_i의 엔트로피를 각각 H_R(λ_i), H_ŝ(λ_i) 로 계산하고, (log H_R, log H_ŝ) 좌표쌍을 h_λi라 한다. 인접 좌표 사이의 유클리드 거리 e_λi = ||h_λi+1 - h_λi|| 를 구해 λ에 대한 e_λ 곡선, 즉 S‑curve를 만든다. S‑curve는 일반적으로 여러 국소 극값을 보이며, 절대 최대값을 갖는 λ가 최적 파라미터 λ_o 로 선택된다.

시뮬레이션에서는 sin(t), 복합 사인 조합, 로그‑사인 혼합 등 다양한 분석 함수를 사용하고, 잡음 수준을 변화시켜 λ_o 를 MSE 최소화 기준으로 정의한 최적값과 비교하였다. 결과는 다음과 같다. (1) LOOCV는 잡음이 상관될수록 λ를 과소추정해 과소 스무딩을 초래한다. (2) V‑curve는 전반적으로 λ를 과대추정하지만, 잡음 수준이 높아질수록 오차가 확대된다. (3) 제안된 S‑curve 기반 스펙트럼 엔트로피 선택은 거의 모든 잡음 수준에서 λ_o 와 일치하거나 매우 근접했으며, MSE 역시 최적값에 근접하였다.

실험 데이터로는 광학 스펙트럼, 전기생리학 신호, 환경 측정 시계열 등을 적용했으며, 각 경우에서도 S‑curve가 시각적으로도 명확한 절대 최대점을 제공하고, 정량적으로도 최소 MSE와 높은 상관성을 보였다. 특히, 잡음이 색잡음(1/f) 형태로 나타나는 경우에도 기존 방법보다 안정적인 λ 선택이 가능했다.

알고리즘 복잡도 측면에서, 엔트로피 계산은 FFT 기반으로 O(N log N)이며, S‑curve 거리 계산은 λ 그리드 크기 M에 대해 O(M)이다. 따라서 대규모 데이터셋에서도 실시간 적용이 가능하다. 또한, λ 그리드 선택에 대한 민감도 분석 결과, 로그 스케일로 50~100개의 λ 후보만으로도 충분히 정확한 λ_o 를 찾을 수 있었다.

본 논문의 주요 기여는 (i) 스펙트럼 엔트로피를 이용한 새로운 정규화 파라미터 선택 기준 제시, (ii) S‑curve라는 직관적이고 계산 효율적인 시각화 도구 제공, (iii) 다양한 시뮬레이션 및 실제 데이터에서 기존 방법 대비 우수한 성능 입증이다. 향후 연구에서는 다변량 시계열, 비선형 스무딩, 그리고 딥러닝 기반 사전 모델과 결합한 하이브리드 선택 전략을 탐색할 여지가 있다.