최악 상황 최소화를 위한 함수형 베이지안 최적화

초록

함수형 응답을 갖는 블랙박스 최적화 문제에서 평균 오류가 아닌 최악 경우 오류를 직접 최소화하는 프레임워크를 제안한다. FPCA로 함수 데이터를 저차원 점수로 압축하고, 각 점수를 독립적인 가우시안 프로세스로 모델링한다. 새로운 통합 불확실성 획득 함수는 최악 기대 오류와 전체 불확실성을 동시에 고려해 탐색‑활용 균형을 맞춘다. 이론적으로 이산화 경계와 일관성을 증명했으며, 합성 및 물리 시뮬레이션 실험에서 기존 방법보다 적은 함수 호출로 최악 오류를 크게 감소시켰다.

상세 분석

본 논문은 전통적인 베이지안 최적화가 scalar 응답에 초점을 맞추는 한계를 극복하고, 시간·파장 등 연속적인 인덱스를 갖는 함수형 응답을 직접 다루는 프레임워크를 제시한다. 핵심 아이디어는 함수형 데이터를 기능 주성분 분석(FPCA)으로 저차원 공간에 투사하고, 각 주성분 점수를 독립적인 가우시안 프로세스(GP) 서러게이트로 모델링하는 것이다. 이렇게 하면 고차원 함수 전체를 하나의 GP로 다루는 비용을 피하면서도, 점수 간 상관관계를 보존할 수 있다. 논문은 특히 최악 경우(max‑max) 오류를 최소화하는 min‑max 목적을 정의한다. 기존 연구들은 통합 오차(예: L2 norm)를 최소화해 평균적인 성능을 최적화했지만, 실제 설계에서는 특정 파라미터 구간에서 발생하는 큰 편차가 치명적일 수 있다. 이를 해결하기 위해 저자들은 ‘통합 불확실성 획득 함수(integrated uncertainty acquisition function)’를 고안한다. 이 함수는 (1) 현재 서러게이트가 예측하는 최악 경우 기대 오류를 평가하고, (2) 해당 오류에 대한 불확실성(분산)과 함수 전체에 걸친 탐색 가치를 동시에 고려한다. 수식적으로는 각 후보 입력 x에 대해 (\max_{t\in\mathcal{T}} \mu_t(x) + \beta \sigma_t(x)) 형태의 보상(여기서 t는 FPCA의 시간/파장 인덱스, μ와 σ는 점수 GP의 평균·분산)와, 전체 인덱스에 대한 평균 불확실성 (\int_{\mathcal{T}} \sigma_t(x) dt)를 가중합한다. β는 탐색‑활용 균형을 조절하는 하이퍼파라미터이다. 이 접근법은 기존 Expected Improvement(EI)나 Upper Confidence Bound(UCB)와 달리, 최악 상황에 대한 보수적 행동을 자연스럽게 포함한다.

이론적 기여는 두 가지이다. 첫째, 연속적인 인덱스 집합 (\mathcal{T})를 유한한 격자 (\mathcal{T}_\Delta)로 이산화했을 때, 최악 경우 목표값과 이산화된 목표값 사이의 차이가 격자 간격 Δ에 비례한다는 ‘이산화 경계(discretization bound)’를 증명한다. 이는 격자 해상도를 조절해 근사 오차를 제어할 수 있음을 보장한다. 둘째, 서러게이트가 충분히 정확해지고 불확실성이 0에 수렴하면, 획득 함수가 실제 min‑max 목표와 일치한다는 ‘일관성(consistency)’ 결과를 제시한다. 이 두 정리는 알고리즘이 수렴성을 갖고, 실용적인 구현에서도 격자 선택이 성능에 미치는 영향을 정량화한다는 점에서 의미가 크다.

실험에서는 (1) 합성 함수 베이스라인(다중 주파수 사인파, 변동 스펙트럼 등)과 (2) 물리 기반 시뮬레이션(메타포토닉 디바이스의 전자기 산란, 증기 상 침투 공정) 두 종류의 테스트베드를 사용한다. 모든 실험에서 MM‑FBO는 기존 함수형 BO(예: Integrated EI, Functional UCB)보다 적은 함수 호출 횟수로 목표 오류를 10‑30% 정도 낮추었다. 특히, 메타포토닉 사례에서는 특정 파장대에서 발생하는 큰 반사율 변동을 효과적으로 억제해 설계 여유를 크게 확대했다. 민감도 분석을 통해 β 파라미터가 너무 작으면 탐색이 부족해 최악 경우를 놓치고, 너무 크면 과도한 보수성으로 수렴이 느려지는 것을 확인했다. 전반적으로 본 연구는 함수형 응답을 다루는 베이지안 최적화에 min‑max 관점을 도입함으로써, 설계 안전성 및 성능 보장을 중시하는 분야에 새로운 도구를 제공한다.