일반 보상을 위한 비모수 베이지안 최적화

초록

본 논문은 보상 분포에 대한 사전 지식이 거의 없을 때도 무후회(no‑regret)를 보장하는 새로운 베이지안 최적화 알고리즘을 제안한다. 무한 가우시안 프로세스(∞‑GP)라는 비모수 서베이 모델을 도입해 기존 GP가 가정하는 RKHS·샘플 경로 가정을 완화하고, 총변동거리(TV) 기반의 새로운 탐욕‑샘플링(Thompson Sampling) 후회 분석을 통해 Lipschitz 연속성만을 전제로 무후회 수렴을 증명한다. 또한, 트렁케이티드 깁스 샘플링을 이용해 계산 복잡도를 O(n³ log n) 수준으로 유지하면서 실험적으로 비정상·중량 꼬리·이질적 잡음 상황에서 최첨단 성능을 보인다.

상세 분석

이 논문은 베이지안 최적화(BO)에서 가장 근본적인 가정인 “보상 함수가 GP 혹은 RKHS에 속한다”는 전제를 완전히 버리고, 보상 자체를 확률분포로서 모델링한다는 점에서 혁신적이다. 무한 가우시안 프로세스(∞‑GP)는 공간‑조건부 디리클레 프로세스(DP) 혼합을 이용해 무한히 많은 GP 전문가를 각 입력점마다 가중합한다. 따라서 관측된 보상 y(x)=μ*(x)+ε*(x)에서 μ*(x)와 ε*(x)의 형태를 사전에 지정할 필요가 없으며, Lipschitz 연속성만이 보장되면 충분히 수렴한다.

핵심 이론적 기여는 총변동거리(TV distance)를 이용한 Thompson Sampling(TS) 후회 분석이다. 기존 TS 분석은 보통 후방 분산을 정보이득(info‑gain)과 연결해 RKHS 노름에 의존했지만, 여기서는 “서베이 모델이 실제 보상 분포와 얼마나 차이가 나는가”를 TV 거리로 직접 측정한다. ∞‑GP가 실제 보상 분포에 대해 일관성(consistency)을 보이면 TV 거리가 0에 수렴하고, 이때 누적 후회는 O(√T) 이하로 제한된다.

계산 측면에서는 무한 혼합 구조가 MCMC 샘플링을 요구하지만, 저자들은 트렁케이티드 깁스 샘플러를 설계해 각 반복에서 활성화된 전문가 수를 로그 수준으로 제한한다. 결과적으로 복잡도는 전통적인 GP의 O(n³)에서 O(n³ log n)으로만 증가한다. 메모리 사용량도 크게 늘어나지 않아 대규모 실험에 적용 가능하다.

실험에서는 비정상(non‑stationary) 함수, 중량 꼬리(heavy‑tailed) 잡음, 이질적(heteroscedastic) 잡음 등 다양한 어려운 환경을 구성했으며, 기존 GP‑UCB, GP‑TS, 비정상 전용 변형 등과 비교해 평균 최적값 도달 속도와 최종 성능 모두에서 우수함을 입증한다. 특히, 보상 분포가 변동하거나 극단값을 포함할 때 ∞‑GP‑TS는 탐색‑활용 균형을 자연스럽게 유지한다는 점이 강조된다.

이 논문의 한계는 아직 이론적 보장이 “Lipschitz 연속성 + 약한 꼬리 조건”에 의존한다는 점이며, 고차원(>10) 입력 공간에서 DP 혼합의 스케일링이 어떻게 되는지는 추가 연구가 필요하다. 또한, 트렁케이티드 샘플링의 트렁크 수준 선택이 성능에 미치는 영향을 자동화하는 방법도 향후 과제로 남는다.