오프‑폴리시 로그‑분산 정규화로 효율적인 볼츠만 생성기 학습

초록

본 논문은 목표 에너지 라벨을 활용한 오프‑폴리시 로그‑분산 정규화(LDR)를 제안한다. LDR은 로그‑분산(Lp) 목표를 데이터 기반 손실에 추가함으로써 에너지 지형의 형태를 정규화하고, 편향된 시뮬레이션 데이터나 순수 변분 학습에서도 모델 성능과 샘플 효율성을 크게 향상시킨다. 알라닌 디펩타이드·헥사펩타이드 실험에서 NLL 감소와 ESS 증가를 통해 기존 방법 대비 최대 10배의 데이터 효율성을 입증하였다.

상세 분석

본 연구는 볼츠만 생성기(Boltzmann Generator)의 학습 효율성을 근본적으로 개선하고자 하는 문제에서 출발한다. 전통적인 학습 방식은 목표 분포의 샘플(평형 데이터)만을 이용하거나, 변분 학습 시 에너지 평가를 반복적으로 수행해야 하는데, 이는 시뮬레이션 비용이 높은 물리·화학 시스템에서 큰 병목이 된다. 저자들은 이러한 한계를 극복하기 위해 ‘로그‑분산 정규화(LDR)’라는 새로운 정규화 프레임워크를 제안한다.

핵심 아이디어는 로그‑분산(log‑dispersion) 목표를 정의하고, 이를 기존 데이터 기반 손실(예: forward KL, flow matching, score matching 등)과 가중합 형태로 결합하는 것이다. 로그‑분산 목표는
(L_{\theta}^{(p)} = \mathbb{E}_{r(x)}\big