학습된 생성 매니폴드로 본질적 DRC 준수 나노포토닉 설계

초록

본 논문은 나노포토닉 역설계에서 설계 규칙(Design‑Rule‑Check, DRC)을 외부 제약이 아닌 설계 표현 자체에 내재화하는 새로운 프레임워크를 제시한다. 저차원 잠재공간을 입력으로 하는 생성 신경망을 학습시켜, 최적화 과정 전체가 DRC‑컴플라이언트 기하학만을 탐색하도록 재파라미터화한다. 실리콘 포토닉스의 파워 스플리터, 스펙트럼 듀플렉서, 모드 컨버터 등 1,500‑1,600 nm 대역의 대표 소자를 EBL(60 nm) 및 포토리소그래피(150 nm) 플랫폼에 적용해, 기존 픽셀 기반 방법 대비 5배 이상의 연산 효율과 최첨단 성능을 동시에 달성하였다.

상세 분석

이 연구는 나노포토닉 역설계의 근본적인 난제인 “설계 규칙 위반” 문제를 설계 공간 자체를 제한함으로써 해결한다. 기존 방법은 연속적인 그레이스케일 매핑 후 평균화, 프로젝션, 페널티 항 등을 단계적으로 적용해 최소 피처 크기·간격·곡률 등 DRC를 만족하도록 강제한다. 그러나 이러한 외부 제약은 하이퍼파라미터 튜닝에 민감하고, 최적화 과정에서 규칙 위반이 일시적으로 발생해 수렴을 방해한다.

논문은 이를 “생성 매니폴드(Generative Manifold)” 접근법으로 대체한다. 설계 변수 x∈X(픽셀 기반 고차원 공간) 대신, 저차원 잠재 변수 z∈Z를 입력으로 하는 매핑 **G(z)**를 정의한다. G는 사전 학습된 컨볼루션 기반 업샘플링 네트워크이며, 각 레이어는 1.4배 업샘플링 → 5×5 커널 컨볼루션 → 소프트맥스 → 형태학적 클로징 순으로 구성된다. 이 구조는 작은 입력이 여러 단계에 걸쳐 점진적으로 확대되면서 부드러운 경계와 최소 피처 크기를 자연스럽게 보장한다.

학습 단계에서는 토폴로지 손실 Lₜₒₚₒ를 도입한다. Lₜₒₚₒ는 침식·팽창 연산을 이용해 최소 폭(ηₑ)·최소 간격(η_d)을 위반하는 픽셀에 제곱 페널티를 부여한다. 형태학적 클로징 레이어의 커널 크기가 최소 피처 크기보다 크게 설정돼, 작은 섬이나 구멍이 자동으로 제거된다. 또한, 곡률 제약은 소프트맥스의 기울기 스케줄링을 통해 부드러운 가장자리를 형성하도록 유도한다. 비미분 가능한 최종 임계값 레이어는 Straight‑Through Estimator(STE)를 사용해 근사 그래디언트를 전달함으로써 역전파가 가능하도록 설계되었다.

이러한 매니폴드가 구축되면, 최적화 목표는 단순히 arg min₍z₎ ‖F(G(z)) − y‖²* 로 변환된다. 여기서 F는 전자기 시뮬레이터(FDTD 등)이며, y*는 원하는 스펙트럼·전송 특성이다. 저차원 Z에서의 탐색은 수백 번의 반복만에 수렴하고, 매 단계마다 **G(z)**는 이미 DRC를 만족하므로 별도의 페널티 항이 필요 없다.

실험에서는 3가지 대표 소자를 설계하였다. (1) 1 × 2 광 파워 스플리터는 150 nm 피처(PL)와 60 nm 피처(EBL) 모두에서 삽입 손실 < 0.8 dB, 균등 분배 비율 49.5 % ± 0.5 %를 달성했다. (2) 1 × 4 스펙트럼 듀플렉서는 1500‑1600 nm 구간에서 각 채널 간 최소 20 nm 간격을 유지하면서 크로스톡 < ‑25 dB를 기록했다. (3) TE₀→TE₁ 모드 컨버터는 1.5 µm 길이 내에서 변환 효율 92 %를 구현했다. 모든 사례에서 픽셀 기반 최적화 대비 평균 5.3배 적은 시뮬레이션 시간(≈ 30 % GPU 메모리 사용)과 동일하거나 우수한 광학 성능을 보였다.

또한, 입력 해상도를 조정함으로써 동일한 네트워크를 EBL과 PL 두 플랫폼에 바로 적용할 수 있음을 시연했다. 이는 매니폴드가 “플랫폼‑아그노스틱”이라는 중요한 장점을 제공한다는 것을 의미한다. 마지막으로, 매니폴드 기반 설계는 설계 규칙 위반이 전혀 발생하지 않으며, 설계 후 별도의 DRC 검증 단계가 사실상 불필요함을 확인하였다.

이러한 결과는 (1) 설계 규칙을 설계 표현에 내재화함으로써 최적화 효율을 극대화, (2) 고차원 픽셀 탐색에서 발생하는 수렴 불안정을 해소, (3) 다양한 제조 공정에 대한 범용성을 확보한다는 점에서 나노포토닉 역설계 분야에 혁신적인 전환점을 제공한다. 향후 연구는 매니폴드에 추가적인 물리적 제약(예: 열·전기·기계적 스트레스)과 다중 목표 최적화를 결합하고, GAN‑기반 샘플링을 통해 설계 다양성을 더욱 확대하는 방향으로 진행될 수 있다.