스코어 기반 사전 선택으로 강화된 STLS와 SINDy 모델링

초록

본 논문은 순차 임계 최소제곱(STLS) 알고리즘의 내부 메커니즘을 점수(score)라는 투영 오차 지표를 통해 분석하고, 이 점수를 활용한 사전(dictionary) 선택 방법을 제안한다. 점수 기반의 전면 탐색(ESR)과 탐욕형(GBSR) 알고리즘을 설계하고, 약한 형태(weak‑SINDy)와 결합해 ODE·PDE 사례에 적용한다. 실험 결과, 불필요한 항을 효과적으로 제거하면서 모델 정확도와 해석성을 동시에 향상시킴을 보여준다.

상세 분석

논문은 먼저 STLS가 ℓ₀ 최소제곱 문제를 풀기 위해 초기 최소제곱 해 ξ⁰ = D†y 를 구하고, 지정된 임계값 λ보다 작은 계수를 영으로 만들면서 반복적으로 서포트 집합 S를 축소하는 과정을 상세히 설명한다. 이때 각 사전 항 d_i 에 대해 ξ⁰_i 의 절댓값은 ‖(P_D – P_{D{i}})y‖₂ / ‖d_i – P_{D{i}}d_i‖₂ 로 표현될 수 있음을 보이며, 이는 “점수(score)”로 정의한다. 점수는 해당 항을 제외했을 때의 투영 오차 크기를 나타내며, 높은 점수는 해당 항이 신호 재구성에 크게 기여함을 의미한다.

이론적 분석에서는 (1) 점수가 작을수록 STLS 초기 단계에서 해당 항이 제거될 가능성이 높고, (2) 점수와 상호 코히어런스(사전 항 간 상관관계) 사이의 상호작용이 최종 희소 모델의 선택에 결정적 영향을 미친다는 사실을 정리한다. 특히, 약한 SINDy(weak‑SINDy) 상황—즉, 미분 연산을 직접 적용하기 어려운 경우—에도 점수는 동일하게 정의될 수 있어, 미분 연산을 사전 행렬에 포함시키는 방식으로 확장 가능함을 보인다.

사전 선택 알고리즘은 두 가지로 제시된다. Exhaustive Score-based Removal (ESR)은 모든 가능한 서브사전 조합에 대해 점수를 계산해 최소 점수를 갖는 조합을 순차적으로 선택한다. 계산량이 급격히 증가하지만, 전역 최적성을 보장한다. Greedy Bounded Score-based Removal (GBSR)은 현재 사전에서 가장 낮은 점수를 가진 항을 하나씩 제거하며, 점수의 급격한 상승을 감지하면 탐색을 중단한다. 이는 실용적인 시간 복잡도를 유지하면서도 점수 곡선에서 “뾰족한” 변곡점을 찾아 최적 희소도(sparsity level)를 자동 결정한다.

실험에서는 로렌즈 시스템, Burgers 방정식, 2‑D 파동 방정식 등 다양한 ODE·PDE에 대해 기존 STLS와 LASSO 기반 SINDy와 비교한다. 특히, 작은 계수를 가진 항(예: Hopf 분기점 근처의 비선형 항)이 중요한 물리적 의미를 가질 때, 점수 기반 방법은 해당 항을 유지하고 불필요한 고차항을 제거함으로써 모델 정확도를 10‑15% 향상시킨다. 또한, 노이즈 레벨이 5%~15%까지 증가해도 GBSR은 안정적인 사전 선택을 보여, 기존 방법보다 강인성을 입증한다.

한계점으로는 (i) 사전이 과도하게 과완전(over‑complete)일 경우 점수 간 차이가 미미해 선택이 불안정해질 수 있고, (ii) 점수 계산에 필요한 투영 연산이 대규모 데이터셋에서는 메모리·시간 부담을 초래한다는 점을 언급한다. 이를 해결하기 위해 차원 축소와 병렬 투영 전략을 제안하지만, 향후 연구가 필요하다.

전반적으로 논문은 STLS 내부의 점수 메커니즘을 명확히 규명하고, 이를 활용한 사전 선택 프레임워크를 제시함으로써 SINDy 기반 데이터‑구동 모델링의 실용성을 크게 높였다.