그라디언트 기반 베이지안 최적화와 내부점 방법을 결합한 나노포토닉 역설계

본 논문은 나노포토닉 역설계에서 전역 탐색과 지역 탐색의 장점을 동시에 활용할 수 있는 새로운 최적화 프레임워크인 BONNI를 제안한다 BONNI는 베이지안 최적화의 핵심 아이디어인 서러게이트 모델을 유지하면서, 고차원 문제에 적합한 신경망 앙상블을 서러게이트로 채택한다 신경망은 다층 퍼셉트론 구조(4층, 각 층 256 유닛, gelu 활성화, 정규화 그룹)로 설계되었으며, 동일 구조지만 서로 다른 초기 가중치를 가진 m개의 네트워크로 구성된다 이러한 앙상블은 예측 평균과 분산을 제공하여 불확실성을 정량화한다 서러게이트는 관측된 입력‑출력‑그래디언트 삼중항을 이용해 두 개의 손실(L_f와 L_∇)을 동시에 최소화한다 L_f는 함수값 예측 오차, L_∇는 그래디언트 예측 오차를 제곱합으로 정의하며, 두 손실을 단순히 합산한다 이는 그래디언트 정보가 서러게이트 학습에 완전하게 반영되도록 한다 학습은 Adam 옵티마이저와 코사인 학습률 스케줄을 사용해 효율적으로 수행된다 서러게이트가 학습된 후에는 기대 개선(Expected Improvement, EI) 획득함수를 계산한다 EI는 현재까지 관측된 최적값보다 개선될 확률과 기대 개선량을 가우시안 예측분포의 평균과 표준편차를 이용해 추정한다 비록 앙상블이 가우시안 분포를 가정하지 않지만, 평균·분산을 이용한 근사 방식이 실험적으로 충분히 정확했다 다음으로 EI를 최대화하는 새로운 샘플링 포인트를 찾기 위해 내부점 최적화 알고리즘인 IPOPT을 적용한다 IPOPT은 비선형 제약조건을 자연스럽게 처리할 수 있어 설계 변수에 대한 물리적·제조적 제한을 직접 포함시킬 수 있다 이 단계에서 얻어진 x_next은 실제 시뮬레이션(예: FDTD, RCWA)으로 평가되고, 함수값과 그래디언트가 다시 서러게이트 데이터셋에 추가된다 이러한 순환 과정을 예산이 소진될 때까지 반복한다 알고리즘은 의사코드로 제시되며, 초기 랜덤 샘플링, 서러게이트 학습, EI 최적화, 데이터 업데이트의 4단계로 구성된다 성능 검증을 위해 먼저 Rastrigin 함수(10, 50, 100 차원)에서 기존 전역 최적화 기법(PSO, CMA‑ES)과 지역 최적화 기법(L‑BFGS, Adam, MMA)을 비교하였다 결과는 BONNI가 평균적으로 더 높은 최적값을 적은 시뮬레이션 횟수로 달성함을 보여준다 특히 고차원(100차원)에서 다른 방법들은 수렴이 정체되거나 지역 최적에 머무는 반면, BONNI는 지속적인 탐색과 활용을 통해 전역 최적에 근접한다 실제 나노포토닉 사례로는 (1) 인듐 갈륨 나이트라이드(InGaN) µ‑LED용 10층 분산 브래그 반사체 설계, (2) 듀얼 레이어 격자 커플러 설계, (3) 광대역 웨이브가이드 테이퍼, (4) 포톤결정 웨이브가이드 전이 설계가 포함된다 10층 DBR에서는 평균 스펙트럼 오차가 4.5 %로, 기존 16층 설계의 7.8 %보다 크게 개선되었다 듀얼 레이어 격자 커플러에서도 목표 전송 효율을 초과하는 설계가 도출되었다 이러한 결과는 그래디언트를 서러게이트에 직접 포함시켜 전역 탐색을 유지하면서도 지역 최적화의 빠른 수렴을 활용한 것이 핵심이다 또한, BONNI는 파이썬 기반 오픈소스 패키지로 제공되어 사용자가 손쉽게 기존 시뮬레이션 파이프라인에 연결하고, 앙상블 크기, 네트워크 구조, IPOPT 파라미터 등을 자유롭게 조정할 수 있다 따라서 향후 더 복잡한 다중 물리량 최적화, 제조 공정 제약 포함 설계, 그리고 실시간 최적화 루프에도 확장 가능하다 전체적으로 BONNI는 고차원 비선형 설계 문제에서 전역 탐색과 지역 탐색을 효율적으로 결합한 프레임워크로, 기존 베이지안 최적화와 순수 그래디언트 기반 로컬 최적화의 한계를 동시에 극복한다는 점에서 나노포토닉 역설계 분야에 중요한 기여를 한다