배치 베이지안 최적화를 위한 병렬 지식 그래디언트 방법

본 논문은 동시에 여러 점을 평가할 수 있는 상황을 고려한 배치 베이지안 최적화 기법인 병렬 지식 그래디언트(q‑KG)를 제안한다. 가우시안 프로세스(GP) 사후분포를 이용해 한 번의 배치 평가가 기대하는 최적해 품질 향상을 직접 측정하고, 이를 최대화하는 점들을 선택한다. 무작위 샘플링과 무한소 변동 분석(IP‑A)을 활용해 q‑KG와 그 그래디언트를 효율적으로 추정함으로써, 기존의 병렬 EI, 배치 UCB 등보다 잡음이 있는 환경에서 특히 …

저자: Jian Wu, Peter I. Frazier

배치 베이지안 최적화를 위한 병렬 지식 그래디언트 방법
본 논문은 병렬 환경에서 베이지안 최적화를 수행하기 위한 새로운 획득함수인 병렬 지식 그래디언트(parallel knowledge gradient, q‑KG)를 제안한다. 전통적인 베이지안 최적화는 가우시안 프로세스(GP)를 사전분포로 사용하고, 획득함수를 최대화하여 다음 평가점을 선택한다. 그러나 대부분의 기존 연구는 순차적 설정에 초점을 맞추었으며, 배치 형태로 여러 점을 동시에 평가하는 경우에는 후보점 간 상호작용을 무시한 그리디 방식이 비효율적이다. q‑KG는 현재까지 관측된 n개의 데이터에 대한 GP 사후분포 μ⁽ⁿ⁾(x)와, 추가로 q개의 후보점을 동시에 측정했을 때의 사후분포 μ⁽ⁿ+q⁾(x) 사이의 최소값 차이를 기대값으로 정의한다. 수식적으로는 q‑KG(z₁,…,z_q) = minₓ μ⁽ⁿ⁾(x) – 𝔼ₙ

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기