양자론적 접근을 통한 Hawkes 과정 식별 양성 및 안정성 보장

본 논문은 현대 데이터 과학 및 제어 분야에서 널리 활용되는 Hawkes 과정의 강도 함수 추정 문제를 새로운 시스템‑이론적 관점에서 재조명한다. Hawkes 과정은 자기‑흥분(self‑exciting) 특성을 갖는 점 과정으로, 강도 λ(t)=c+∫₀^∞ϕ(t‑u)dN_u 로 표현된다. 여기서 c는 배경 강도, ϕ는 비음성이고 인과적이며, 전체 시스템의 안정성은 브랜칭 비율 Γ=∫₀^∞ϕ(t)dt<1 로 정의된다. 기존 연구에서는 ϕ를 양의 기저(예: Erlang)로 전개하여 비음성을 보장했지만, 차수가 커질수록 기저 행렬이 비정규화되고 Gram 행렬이 급격히 악조건화되어 최소제곱 추정이 수치적으로 불안정해졌다. 저자들은 이러한 문제점을 해결하기 위해 부호가 불정인 정규 직교 라그루아 기저 h_j(t)=w(t)u_j(t) (w(t)=βe^{-βt})를 채택한다. 라그루아 기저는 L¹와 L²에서 완전성을 가지며, 삼항 재귀식으로 정의되는 Jacobi 행렬 J와 연계된 상태공간 표현(A, B)으로 변환 가능하다. 구체적으로, h(t) 벡터는 미분 방정식 ˙h(t)=Ah(t)와 초기조건 h(0)=B 로 기술되며, A는 하삼각 행렬(대각 원소 -β), B는 정규화된 계수 벡터이다. 이를 이용해 Hawkes 과정의 메모리 회귀 χ_h(t)=∫₀^t h(t‑u)dN_u 를 연속시간 상태공정으로 모델링하고, SDE 형태 dχ_h(t)=Aχ_h(t)dt+B dN_t 로 표현한다. 논문은 먼저 제한 없는 최소제곱(LS) 추정기를 정의한다. 관측 기간