베이즈SQP: 순차 이차계획법 기반 베이esian 최적화

초록

BayeSQP는 제약이 있는 블랙박스 함수를 0차 정보만으로도 함수값·그라디언트·헤시안을 동시에 추정할 수 있는 2차 가우시안 프로세스 서러게이트를 활용한다. 추정된 평균·공분산을 이용해 불확실성을 명시적으로 반영한 확률적 제약을 포함한 2차원 원뿔 프로그램(SOCP) 형태의 서브문제를 풀어 검색 방향을 얻고, 제약된 톰슨 샘플링 기반 1차원 라인 서치를 통해 다음 평가점을 선택한다. 실험에서는 고차원 제약 최적화 문제에서 기존 고차원 BO 기법들을 능가한다는 결과를 보인다.

상세 분석

본 논문은 전통적인 순차 이차계획법(SQP)과 베이esian 최적화(BO)의 장점을 융합한 새로운 로컬 BO 프레임워크인 BayeSQP를 제안한다. 핵심 아이디어는 가우시안 프로세스(GP)를 이용해 목적함수와 제약함수를 2차까지 확장된 확률 모델로 학습함으로써, 실제로는 0차(함수값) 관측만을 사용하면서도 그라디언트와 헤시안을 추정한다는 점이다. GP의 선형 연산 폐쇄성을 이용해 미분 연산을 적용하면, 평균과 공분산이 명시된 다변량 정규분포 형태로 그라디언트·헤시안이 제공된다.

이러한 확률적 도함수 정보를 바탕으로, 논문은 두 단계의 서브문제를 설계한다. 첫 번째는 전통적인 SQP의 2차 근사식에 GP 평균값을 대입한 기대값 기반 서브문제(식 9)이다. 그러나 기대값만을 사용하면 추정 불확실성을 무시하게 되므로, 두 번째 단계에서는 목표 함수와 제약식에 각각 Value‑at‑Risk(VaR)와 확률적 만족 조건을 도입한 불확실성‑인식 서브문제(식 10)를 제시한다. 여기서 GP가 제공하는 평균·공분산을 이용해 각 제약식이 정규분포를 따른다는 사실을 활용하면, 확률적 제약을 확정적인 2차원 원뿔 제약으로 변환할 수 있다. 결과적으로 전체 서브문제는 고차원에서도 효율적으로 풀 수 있는 SOCP 형태가 된다.

검색 방향 pₜ를 얻은 뒤에는 제한된 톰슨 샘플링을 이용한 1차원 라인 서치를 수행한다. 이는 기존 SQP에서 사용하는 전통적인 라인 서치와 달리, 불확실성을 고려한 탐색·활용 균형을 제공한다. 제약이 있는 경우에도 샘플링 과정에서 제약을 강제함으로써, 후보점이 반드시 허용 영역에 머물도록 보장한다.

알고리즘의 장점은 다음과 같다. (1) 0차 정보만으로도 2차 도함수 정보를 활용함으로써, 고차원 문제에서 지역적인 2차 정보를 활용한 빠른 수렴을 기대할 수 있다. (2) 불확실성을 명시적으로 모델링해 목표 함수와 제약식 모두에 대해 고확률 개선을 보장한다. (3) 서브문제가 SOCP로 변환되어 상용 솔버로 빠르게 해결 가능하다.

하지만 몇 가지 한계도 존재한다. 첫째, 헤시안의 공분산 텐서를 완전히 다루면 차원이 d⁴에 달하는 메모리·연산 부담이 발생하므로, 논문에서는 평균값만 사용하고 공분산은 무시한다. 이는 고차원에서 헤시안 불확실성을 과소평가할 위험을 내포한다. 둘째, GP 커널의 4차 연속성을 전제로 하므로, 비스무스한 함수나 급격히 변하는 영역에서는 모델링 오류가 커질 수 있다. 셋째, 실험에서는 제한된 수의 고차원 제약 최적화 베치만을 사용했으며, 대규모 데이터·제약 수가 많은 실제 공학 문제에 대한 검증이 부족하다. 마지막으로, 라인 서치에 사용된 톰슨 샘플링은 샘플링 횟수와 제약 강도에 따라 성능이 크게 변동할 수 있어, 하이퍼파라미터 튜닝이 필요하다.

전반적으로 BayeSQP는 SQP와 BO를 통합한 새로운 로컬 최적화 패러다임을 제시하며, 특히 2차 정보가 중요한 고차원 제약 문제에서 유망한 접근법으로 평가된다. 향후 연구에서는 헤시안 공분산을 효율적으로 근사하는 방법, 비정형 커널 적용, 그리고 대규모 실험을 통한 일반화 검증이 필요하다.