실용적 호기심: 능동 추론을 통한 학습‑최적화 통합 패러다임

초록

본 논문은 베이지안 최적화와 베이지안 실험 설계의 목표‑탐색을 하나의 기대 자유 에너지(EFE) 최소화 문제로 통합한다. 기대 자유 에너지의 실용적 항은 선호하는 결과를, 인식적 항은 정보 획득을 각각 촉진한다. 제안된 ‘실용적 호기심’ 알고리즘은 호기심 계수를 통해 탐색‑활용 균형을 조절하며, 제약 시스템 식별, 목표 기반 활성 탐색, 사용자 선호가 숨겨진 복합 최적화 등 세 가지 실제 과제에서 기존 BO·BED 기반 베이스라인을 일관되게 능가한다.

상세 분석

논문은 먼저 베이지안 최적화(BO)와 베이지안 실험 설계(BED)의 목표‑지향적·정보‑지향적 특성을 각각 정리하고, 두 접근법이 서로 독립적인 목적 함수를 최적화한다는 점을 지적한다. 이를 극복하기 위해 능동 추론(active inference, AIF)의 핵심 개념인 기대 자유 에너지(EFE)를 도입한다. EFE는
(G = -\mathbb{E}_{q(y|x)}