고차원 부트스트랩 필터의 무게 붕괴와 샘플 크기 요구조건

본 논문은 고차원 상태공간 모델에서 부트스트랩 파티클 필터(bootstrap particle filter)의 근본적인 한계인 ‘가중치 붕괴(weight collapse)’ 현상을 정량적으로 분석하고, 이를 방지하기 위한 샘플 크기 요구조건을 엄밀히 도출한다. 서론에서는 베이지안 필터링이 관측 데이터와 시스템 동역학을 결합해 사후분포를 추정하는 일반적인 프레임워크임을 설명하고, 파티클 필터가 사전 샘플에 대한 중요도 가중치를 재조정하는 방식으로 구현된다는 점을 강조한다. 고차원에서 가중치가 극단적으로 편중되는 현상이 실무에서 필터의 불안정성을 초래한다는 점을 지적하며, 기존 연구(Bengtsson, Bickel, Li, 2007)가 제시한 가설을 수학적으로 검증하고 확장할 필요성을 제시한다. 2절에서는 모델 설정을 구체화한다. 상태벡터 X∈ℝ^q는 사전분포 N(μ_X, Σ_X)를 따르고, 관측 Y∈ℝ^d는 선형 변환 H∈ℝ^{d×q}와 독립 정규 잡음 ε∼N(0, I_d)로 표현된다. 편의를 위해 μ_X=0, Σ_ε=I_d, 그리고 관측 평균을 0으로 정규화한다. 파티클 필터의 중요도 가중치는 w_i = exp(−½‖Y−HX_i‖²) / Σ_j exp(−½‖Y−HX_j‖²) 로 정의된다. 여기서 핵심은 공분산 행렬 cov(HX)의 고유값 λ_j²를 이용해 ‖Y−HX_i‖²를 분해하는 것이다. 고유값이 λ₁≥λ₂≥…≥λ_{d′}>0라 두고, d′=rank(H)라 하면, 정규화된 좌표 V_i = QᵀHX_i / D 로 변환해 ‖Y−HX_i‖² = Σ_{j=1}^{d′} λ_j²(W_{ij}²) + Σ_{j>d′} ε_{0j}² 로 표현한다. 여기서 W_{ij}∼N(μ_j,1)이며 μ_j는 관측에 의해 결정된 평균이다. 3절에서는 가중치 붕괴를 수학적으로 증명한다. 먼저 S_i = Σ_{j=1}^{d′} λ_j²( W_{ij}² − (1+μ_j²) ) / √{ Σ_{j=1}^{d′} λ_j⁴(1+2μ_j²) } 라는 정규화된 변수들을 정의하고, 이들의 순서통계량 S_(1)≤…≤S_(n) 를 이용해 최대 가중치 w_(n) = 1 / (1 + T_{n,d′}) 로 변환한다. 여기서 T_{n,d′}= Σ_{ℓ=2}^n exp(−σ_{d′}√{d′}( S_(ℓ)−S_(1) ))이며 σ_{d′}² = 2 d′ Σ_{j=1}^{d′} λ_j⁴(1+2μ_j²) / ( Σ_{j=1}^{d′} λ_j² )² 로 정의된다. Proposition 3.1은 독립 변수들의 누적분포함수 G_d가 Lemma A.1, A.2의 조건을 만족하면, log n·log d′/d′→0 일 때 σ_{d′}²·2 log n·E