머신러닝으로 숨겨진 파라미터를 포착한 자율 박막 증착 시스템

초록

본 논문은 광학적 실시간 측정, 로봇 샘플 핸들링, 그리고 가우시안 프로세스 회귀(GPR) 기반 활성학습을 결합한 완전 자율 물리증기증착(PVD) 시스템을 제시한다. 은박막을 목표 반사율 내 2.5% 오차로 2.3번의 평균 시도만에 제작함으로써, 숨겨진 기판·챔버 파라미터를 보정하는 캘리브레이션 레이어와 자동 탐색 알고리즘이 실험 효율을 크게 향상시킴을 입증한다.

상세 분석

이 연구는 박막 성장 공정에서 흔히 간과되는 ‘숨겨진 파라미터’—예컨대 기판 표면 거칠기, 챔버 내 잔류 가스 농도, 초기 온도 편차—가 모델 예측에 미치는 영향을 정량화하고, 이를 보정하기 위한 캘리브레이션 레이어를 도입한 점에서 혁신적이다. 저자들은 1000 초 동안 얇은 초기 층을 성장시킨 뒤 689 nm 파장의 반사율(Rc)을 측정하고, 이를 이후 성장 단계의 입력 변수로 활용한다. Rc와 장기 성장 시점(5000 초)의 반사율 사이에 선형 상관관계가 존재함을 실험적으로 확인함으로써, 초기 측정값이 숨겨진 파라미터 변동을 부분적으로 포착한다는 가정을 검증하였다.

모델링 측면에서는 입력 변수 (온도 T, 성장 시간 t, 파장 λ, Rc)를 사용해 두 개의 GPR 모델을 각각 반사율(R)과 흡수율(A)을 예측하도록 설계하였다. RBF 커널을 채택해 비선형 관계를 유연하게 학습하고, 베이지안 업데이트를 통해 새로운 샘플이 추가될 때마다 사후 분포를 즉시 갱신한다. 특히, 자동 학습 단계에서는 ‘최대 불확실성’ 기준으로 다음 실험 온도를 선택하는 탐색 전략을 적용했는데, 이는 전통적인 베이지안 최적화가 단일 목표 함수에 초점을 맞추는 것과 달리 전체 파라미터 공간을 균등하게 탐색하도록 만든다. 결과적으로 8회의 자율 학습 반복 후 평균 예측 불확실성이 0.032 수준으로 수렴했으며, 이는 캘리브레이션 레이어가 없을 때보다 현저히 낮은 값이다.

하드웨어 통합 역시 주목할 만하다. 초고진공(UHV) 챔버와 72 슬롯 로봇 핸들러를 결합해 인간 개입 없이 연속적으로 샘플을 교체·측정한다. 광학적 특성은 5가지 파장의 p-편광 레이저를 이용해 45° 입사각에서 실시간으로 전송(Pt) 및 반사(Pr) 전력을 측정하고, R과 A를 즉시 계산한다. 데이터 수집은 98 초 블록 단위로 진행되어, 각 블록 내에서 5파장 전부를 순차적으로 측정함으로써 시간 효율을 극대화한다.

전체 시스템은 ‘학습 단계’와 ‘테스트 단계’로 구분된다. 학습 단계에서는 사전 정의된 파라미터 그리드(820~880 °C, 7.5 °C 간격)와 자동 탐색을 결합해 17개의 샘플 데이터를 축적한다. 이후 테스트 단계에서는 사용자가 지정한 목표 반사율에 맞춰 GPR 모델이 제시하는 최적 온도·시간 조합을 그대로 적용해 은박막을 성장시킨다. 실험 결과, 목표 반사율을 평균 2.3번의 시도 내에 2.5% 이내로 달성했으며, 이는 기존 수동 최적화 대비 실험 시간과 인력 비용을 크게 절감한다는 것을 의미한다.

이 논문은 박막 공정 자동화와 머신러닝 통합에 있어 두 가지 핵심 기여를 제공한다. 첫째, 캘리브레이션 레이어를 통한 숨겨진 파라미터 보정 메커니즘은 데이터 품질을 향상시켜 모델의 일반화 능력을 강화한다. 둘째, GPR 기반의 불확실성 주도 탐색은 실험 설계 효율을 극대화함으로써 고차원 파라미터 공간을 빠르게 수렴시킨다. 이러한 접근은 은뿐 아니라 다양한 금속·산화물 박막 시스템에도 확장 가능하며, 차세대 재료 발견 플랫폼 구축에 중요한 토대를 제공한다.