하이브리드 BaTiO₃‑TiO₂ 파동가이드로 구현하는 고효율 비선형 주파수 변환

초록

BaTiO₃와 TiO₂를 층상으로 결합한 하이브리드 파동가이드를 설계·시뮬레이션하여, 순수 BaTiO₃ 파동가이드 대비 2.75배 높은 정규화된 SHG 효율을 달성하였다. 이는 주기적 폴링이 어려운 BaTiO₃ 얇은 필름에서 전적으로 모드 위상 매칭과 구조적 모드 겹침 최적화를 통해 구현된 결과이며, 리소그래피 기반의 균일한 단면 설계로 CMOS 호환 및 대량 생산이 가능함을 보여준다.

상세 분석

본 논문은 BaTiO₃(바륨 티타네이트)의 강한 χ^(2) 비선형성과 전기광학 효과를 활용하고자 하지만, 얇은 박막 형태에서는 높은 강제 전계, 기판 결합에 의한 응력 고정, 다중 도메인 구조 등으로 인해 전통적인 주기적 폴링이 실용적이지 않다는 점을 정확히 지적한다. 이러한 물리적 제약을 회피하기 위해 저자들은 ‘모드 위상 매칭(modal phase‑matching)’에 기반한 설계 전략을 채택한다. 구체적으로, 기본 파장(1550 nm)에서 TM₀₀ 모드와 2배 주파수(775 nm)에서 TE₀₂ 고차 모드가 동일한 유효 굴절률을 갖도록 파동가이드의 가로·세로 단면을 최적화한다.

시뮬레이션 단계는 크게 두 부분으로 나뉜다. 첫째, 순수 BaTiO₃ 큐보이드 파동가이드를 폭·높이 파라미터 스윕하여 자연스럽게 위상 매칭되는 영역을 탐색한다. 여기서 가장 효율적인 조합은 폭 0.56 µm, 높이 0.78 µm이며, 해당 구조에서 2배 주파수 모드는 TE₀₂ 형태로 세 개의 전기장 로브를 갖는다. 둘째, 이러한 TE₀₂ 모드의 전기장 분포를 분석해 비선형 상호작용이 양의 부호를 갖는 영역만을 선택적으로 활용하도록 설계한다. 이를 위해 BaTiO₃ 중심부에만 비선형성을 유지하고, 위·아래에 χ^(2)=0인 TiO₂(선형 물질)를 삽입한다. TiO₂는 BaTiO₃와 굴절률이 거의 일치하므로 전체 모드의 유효 굴절률에 큰 영향을 주지 않으며, 대신 비선형 상호작용이 부정적인 부호를 갖는 전기장 로브를 차단한다.

구조 최적화 결과, 총 높이 0.80 µm, 폭 0.46 µm, BaTiO₃ 층 두께 0.30 µm, TiO₂ 층 각각 0.25 µm인 하이브리드 파동가이드는 모드 겹침 계수 κ가 1.6배 증가한다. 비록 BaTiO₃의 체적은 0.28배로 감소했지만, 부호 상쇄 효과가 사라져 정규화 SHG 효율은 510.5 %·W⁻¹·cm⁻²(단일 BaTiO₃)에서 1404.5 %·W⁻¹·cm⁻²(하이브리드)로 2.75배 향상된다. 이는 GaP(6.1 %·W⁻¹·cm⁻²), AlN‑SiN 하이브리드(12 %·W⁻¹·cm⁻²) 등 기존 플랫폼을 크게 앞서는 수치이며, LiNbO₃ 기반 주기적 폴링(3000 %·W⁻¹·cm⁻²)과도 동등 수준이다.

제조 측면에서는 모든 층을 별도 성장·결합 후 리소그래피와 건식 식각으로 패터닝하는 ‘성장‑결합‑패터닝’ 흐름을 제안한다. 이는 BaTiO₃와 TiO₂ 사이의 격자 불일치와 응력 문제를 완화하고, BaTiO₃ 두께 측정 후 TiO₂ 두께를 조정함으로써 30‑40 nm 수준의 폭·전체 높이 공차만으로도 위상 매칭을 유지할 수 있게 한다. 따라서 대량 생산이 가능한 CMOS 호환 공정에 적합한 설계라 할 수 있다.