확률적 신경망 검증과 도달 가능성 분석: 반정밀도 프로그래밍 접근

** 본 논문은 학습 기반 시스템에서 신경망의 안전성을 검증하고, 입력 불확실성에 대한 출력 도달 가능성을 정량화하는 새로운 방법을 제시한다. 기존 연구는 주로 입력이 정해진 노름 구간 안에 제한되는 최악‑경우(워스트‑케이스) 검증에 초점을 맞추었으며, 확률적 불확실성을 고려한 연구는 드물었다. 저자들은 입력 불확실성을 평균 \(\mu\)와 공분산 \(\Sigma\)만으로 기술되는 확률적 모델로 가정하고, 두 가지 핵심 문제를 다룬다. 첫 번째는 “확률적 안전 검증”으로, 주어진 안전 영역 \(S\)에 대해 \(\Pr\{f(X)\in S\}\)의 하한을 구한다. 두 번째는 “신뢰구 전파”로, 입력에 대한 \(p\)-레벨 신뢰구 \(E_p\)가 주어졌을 때, 출력에 대한 최소 부피의 \(p\)-레벨 신뢰구를 찾는다. 비선형 활성화 함수(특히 ReLU)의 존재 때문에 직접적인 분석은 NP‑hard이며, 이를 해결하기 위해 저자들은 **Quadratic Constraints (QC)** 라는 이차 제약 집합을 도입한다. QC는 입력‑출력 쌍 \((x,\phi(x))\)가 만족해야 하는 부등식 \(\begin{bmatrix}x\\\phi(x)\\1\end{bmatrix}^\top Q\begin{bmatrix}x\\\phi(x)\\1\end{bmatrix}\ge0\) 로 정의되며, \(Q\)는 무한히 많은 가능성을 갖는 반볼록(cone) 집합이다. ReLU에 대해서는 sector‑bounded \(