통계적 모델 검증을 위한 교차 엔트로피 기반 중요도 샘플링 파라미터 최적화

초록

본 논문은 통계적 모델 검증에서 희귀 이벤트의 확률을 효율적으로 추정하기 위해, 교차 엔트로피(Cross‑Entropy) 기법을 이용해 중요도 샘플링 분포의 파라미터를 자동으로 최적화하는 알고리즘을 제안한다. 낮은 차원의 파라미터 벡터만으로 분포를 정의함으로써 전이 행렬을 명시적으로 구성할 필요가 없으며, 유일한 최적해가 존재함을 증명한다. 신뢰성 공학 및 생화학 모델에 적용한 실험 결과, 시뮬레이션 비용을 수십에서 수백 배까지 감소시켰다.

상세 분석

이 논문은 통계적 모델 검증(SMC)에서 가장 큰 난제 중 하나인 ‘희귀 사건’ 추정 문제를 교차 엔트로피(CE) 최적화와 중요도 샘플링(IS)의 결합으로 해결한다는 점에서 학술적·실용적 의의가 크다. 기존 IS 기반 접근법은 최적의 변형 분포를 찾기 위해 전체 상태 공간을 탐색하거나 고차원 전이 행렬을 직접 조정해야 하는데, 이는 모델 규모가 커질수록 계산량이 폭발적으로 증가한다는 한계가 있었다. 저자들은 이러한 문제를 ‘파라미터화된 변형 분포’를 도입함으로써 회피한다. 구체적으로, 시스템의 전이 확률을 로그선형 형태의 파라미터 벡터 θ 에 매핑하고, CE 손실 함수 L(θ)=E_{P*}