강인한 신경 사후 추정을 위한 최소거리 요약 기법

초록

본 논문은 사전 학습된 신경 사후 추정기(NPE)를 그대로 유지하면서, 테스트 시 관측 데이터의 요약 통계량을 최소거리 요약(MDS)으로 적응시켜 모델 불일치에 강인하게 만든다. MDS는 관측 데이터의 경험분포와 요약조건부 데이터 분포 사이의 최대 평균 차이(MMD)를 최소화하도록 설계되며, 랜덤 푸리에 특성을 이용해 효율적으로 계산한다. 이 방법은 사전 훈련된 NPE와 완전히 분리돼 모듈성을 보존하고, 실험에서 적은 오버헤드로 견고한 추정 성능을 입증한다.

상세 분석

본 연구는 시뮬레이션 기반 추론(SBI)에서 흔히 발생하는 모델 미지정(misspecification) 문제를 해결하기 위해, 사전 학습된 신경 사후 추정기(NPE)의 구조를 변경하지 않고 테스트 단계에서만 요약 통계량을 조정하는 새로운 프레임워크를 제안한다. 핵심 아이디어는 관측 데이터 집합 ˜x₁:N의 경험분포 ˆP_N과 요약조건부 데이터 분포 P_{x|s} 사이의 차이를 최대 평균 차이(MMD)라는 강인한 거리 측도로 정의하고, 이를 최소화하는 요약 s*를 찾는 것이다. MMD는 bounded kernel을 사용하면 오염(contamination)이나 작은 모델 오차에 대해 견고한 특성을 가지며, 샘플 기반으로 직접 추정 가능하다는 장점이 있다.

연산 효율성을 위해 저자들은 MMD를 랜덤 푸리에 피처(RFF)로 근사한다. RFF는 shift‑invariant 커널을 유한 차원의 선형 변환 z(x)로 변환해, MMD를 ‖E_{P}