그레이박스 최적화를 위한 신뢰영역 퍼널 알고리즘

초록

본 논문은 공정 시스템 엔지니어링에서 유리박스(수식화된)와 블랙박스(미분 불가능) 모델이 혼합된 그레이박스 문제를 해결하기 위해, 기존의 신뢰영역 필터 방식 대신 단일 스칼라 퍼널 폭을 이용하는 새로운 신뢰영역 퍼널 알고리즘을 제안한다. 퍼널은 블랙박스 감소 모델(RM)의 근사오차 상한을 단조 감소시키며, 전역 수렴성을 1차 KKT 점으로 보장한다. 구현은 Pyomo 기반 오픈소스로 제공되며, 다양한 RM 형태와 필터·퍼널 두 가지 전역화 전략을 선택 가능하도록 설계되었다. 7개의 수치·공학 사례 실험에서 기존 TR‑filter 대비 동등하거나 향상된 성능을 보이며, 파라미터 튜닝 부담을 크게 낮춘다.

상세 분석

이 연구는 그레이박스 최적화에서 신뢰영역(TR) 프레임워크를 재구성함으로써 두 가지 핵심 문제를 동시에 해결한다. 첫째, 기존 TR‑filter는 목표와 불가능도(제약 위반)를 쌍으로 관리하는 필터 집합을 유지하면서 파라미터(예: 허용 감소 비율, 필터 폭) 조정에 민감했다. 둘째, 블랙박스 구성요소에 대한 로컬 감소 모델(RM)이 충분히 정확하지 않을 경우, TR 단계가 과도하게 제한되거나 수렴이 지연되는 현상이 발생한다. 논문은 이러한 한계를 극복하기 위해 “퍼널”이라는 일차원 상한 함수를 도입한다. 퍼널 폭 η_k는 매 반복마다 현재 불가능도 θ_k와 비교해 θ_k ≤ η_k 조건을 만족하면 단계가 승인되고, 그렇지 않으면 η_k를 감소시켜 다음 반복에 더 엄격한 허용치를 부과한다. 이 과정은 필터와 달리 단일 스칼라 업데이트만 필요하므로 파라미터 조정이 간소화된다.

또한, 저자는 RM의 κ‑완전선형성(κ‑fully linear) 가정 하에 샘플링 반경 Δ_k와 RM 오차가 선형적으로 연관됨을 이용해, Δ_k가 수렴함에 따라 RM 오차도 자동으로 감소한다는 수학적 근거를 제공한다. 이는 기존 방법에서 별도 RM 재구축 기준을 설정해야 하는 복잡성을 없앤다.

알고리즘 흐름은 크게 5단계로 구성된다. (1) Criticality Check: 현재 점에서 선형화된 KKT 조건을 풀어 ‖s‖ ≤ Δ_k 내에 충분히 작은 감소 방향이 존재하는지 판단한다. 이 값이 Δ_k에 비해 작으면 샘플링 반경을 축소한다. (2) Compatibility Check: RM 출력이 실제 블랙박스 제약과 일관되는지 검증하고, 불일치 시 복구 단계에서 RM을 재구축하거나 TR 반경을 조정한다. (3) TR Subproblem: 목표 함수와 불가능도에 대한 로컬 모델을 결합한 제한 최적화 문제를 해결해 후보 단계 d_k를 얻는다. (4) Funnel Update: θ_k ≤ η_k 조건을 확인하고, 만족하면 단계 수용, 불만족이면 η_k←γ η_k(γ∈(0,1)) 로 감소시킨다. 동시에 TR 반경 Δ_k도 성공/실패에 따라 확대·축소한다. (5) Feasibility Restoration: 필요 시 복구 문제를 풀어 RM·TR의 일관성을 회복한다.

수렴 증명은 전통적인 TR 이론에 퍼널 조건을 결합한 형태로, η_k가 단조 감소하면서 0에 수렴하고, κ‑fully linear RM 보장 하에 Δ_k→0 임을 이용해 모든 제한점이 1차 KKT 조건을 만족함을 보인다.

실험에서는 선형, 2차, 테일러, 가우시안 프로세스(GP) 등 네 종류의 RM을 적용했으며, 필터와 퍼널 두 전역화 전략을 교차 테스트했다. 7개의 사례(단순 수치 테스트부터 복합 공정 플로우시트까지)에서 평균 반복 횟수와 블랙박스 호출 수가 기존 TR‑filter와 동등하거나 10~20 % 개선되었으며, 특히 파라미터 튜닝이 어려운 고차원 문제에서 퍼널 방식이 더 안정적인 수렴을 보였다.

마지막으로, 구현은 Pyomo 기반 오픈소스로 공개되어, 사용자 정의 RM 및 전역화 전략을 손쉽게 추가할 수 있다. 이는 기존 상용 솔버에 비해 접근성을 크게 높이며, 학계·산업 모두에서 그레이박스 최적화 연구·실무에 바로 활용 가능하도록 만든다.