제약 미지 상황에서의 최적화 가우시안 프로세스 기반 베이지안 접근

초록

본 논문은 시뮬레이터를 통해 얻는 목표 함수와 제약 위반 여부가 모두 알 수 없는 상황에서의 최적화 문제를 다룬다. 가우시안 프로세스(GP)를 이용해 목표 함수와 제약 함수를 동시에 추정하고, 제약을 만족할 확률과 통합 개선 기준(Integrated Improvement, II)을 결합한 새로운 획득 함수를 제안한다. 이 기준은 제약을 위반한 입력이라도 목표 함수에 대한 정보를 제공할 수 있음을 인식한다. 합성 데이터와 보건 정책 최적화 사례를 통해 제안 방법의 효율성을 실증한다.

상세 분석

이 연구는 전통적인 베이지안 최적화가 가정하는 “제약이 명시적으로 알려져 있다”는 전제에서 벗어나, 제약 자체가 시뮬레이션을 통해서만 확인 가능한 ‘알 수 없는 제약(unknown constraints)’ 상황을 모델링한다. 이를 위해 저자들은 두 개의 독립적인 가우시안 프로세스 모델을 구축한다. 첫 번째 GP는 실수값 목표 함수 f(x)를 근사하고, 두 번째 GP는 제약 함수 c(x)를 추정한다. 제약이 만족될 확률 P(c(x)≤0)은 두 번째 GP의 예측 평균과 분산을 이용해 정규분포 누적분포함수(CDF) 형태로 계산된다.

핵심 기여는 ‘통합 개선 기준(Integrated Improvement, II)’이다. 기존의 기대 개선(Expected Improvement, EI)은 현재 최적값보다 더 좋은 목표값을 얻을 확률만을 고려했지만, II는 제약을 위반한 입력에서도 목표 함수에 대한 유용한 정보를 얻을 수 있음을 반영한다. 구체적으로, II는 목표 함수에 대한 기대 개선량에 제약 만족 확률을 곱한 형태로 정의되며, 이는 제약 위반 입력이 완전히 배제되지 않도록 한다. 따라서 탐색 단계에서 ‘정보 가치가 높은’ 비실현 가능 영역도 적절히 탐색하게 된다.

알고리즘 흐름은 다음과 같다. 초기 설계점들을 무작위로 선택하고, 각 점에 대해 목표값과 제약 여부를 시뮬레이션한다. 이후 GP 모델을 업데이트하고, II 기반 획득 함수를 최대화하는 다음 후보점을 선택한다. 이 과정을 예산이 소진될 때까지 반복한다.

실험에서는 두 가지 시나리오를 제시한다. 첫 번째는 다중 차원 합성 함수와 복잡한 비선형 제약을 가진 테스트베드이며, 두 번째는 보건 정책 시뮬레이터에서 비용과 효과를 동시에 최적화하면서 정책 시행 가능성을 제약으로 설정한 실제 사례이다. 결과는 제안된 II 기반 방법이 기존 EI·제약 만족 확률(Probability of Feasibility, PF) 결합 방식보다 적은 평가 횟수로 최적해에 근접하거나 더 나은 해를 찾는 것을 보여준다.

이 접근법의 장점은 제약을 완전히 배제하지 않음으로써 탐색 공간을 보다 효율적으로 활용한다는 점이다. 그러나 GP 모델이 고차원 입력에 대해 과적합되거나 계산 비용이 급증할 수 있다는 한계도 존재한다. 또한, 제약 함수가 이산형이거나 매우 불규칙한 경우에는 GP의 연속성 가정이 부적절할 수 있다. 향후 연구에서는 스파스 GP, 딥 커널, 혹은 다중 피델리티 모델을 도입해 확장성을 높이는 방안을 제시한다.