전광학 딥러닝을 이용한 회절 심층 신경망

초록

본 논문은 광학 파동의 회절 현상을 이용해 다층 구조의 수동형 회절면을 설계하고, 이를 딥러닝 기법으로 최적화하여 손글씨 숫자 분류와 테라헤르츠 파장에서의 렌즈 기능을 구현한다. 3D 프린팅 및 SLM 등 기존 제조 기술을 활용해 전광학으로 실시간, 저전력 연산이 가능한 새로운 광학 컴퓨팅 플랫폼을 제시한다.

상세 분석

본 연구는 전통적인 전자식 인공신경망을 광학적으로 구현하는 획기적인 접근법을 제시한다. 회절 심층 신경망(D2NN)은 입력 평면에서 시작해 여러 개의 얇은 회절층을 연속적으로 통과하면서 파장의 위상과 진폭을 조절한다. 각 회절층은 수천 개의 픽셀(또는 메타-구조)로 이루어져 있으며, 각 픽셀은 고정된 복소수 전송 계수를 갖는다. 이러한 전송 계수는 역전파 기반의 딥러닝 알고리즘을 통해 사전 학습되며, 학습 과정은 전통적인 전자식 신경망과 동일하게 손실 함수(예: 교차 엔트로피)를 최소화하도록 설계된다. 핵심 아이디어는 광학 전파 방정식(헬름홀츠 방정식의 근사 해)을 신경망의 선형 연산으로 매핑하고, 비선형 활성화 함수는 광학적으로 구현하기 어려우므로 대신 파면의 강도(절대값 제곱)를 이용해 자연스럽게 비선형성을 도입한다.

실험적으로는 테라헤르츠(0.1–10 THz) 대역에서 3 mm 두께의 폴리머를 3D 프린팅하여 회절층을 제작하였다. 첫 번째 시연은 MNIST 손글씨 데이터셋을 10개의 클래스로 분류하는 것이었으며, 5층 D2NN은 92 % 이상의 정확도를 달성했다. 두 번째 시연은 기존 광학 렌즈와 동일한 초점 형성을 목표로 하였으며, 회절층 배열이 입사 파면을 원하는 이미지 평면에 정확히 재구성함을 확인했다. 이러한 결과는 전자식 연산 없이도 광학 파동 자체가 복잡한 연산을 수행할 수 있음을 증명한다.

하지만 몇 가지 한계도 존재한다. 첫째, 회절층의 물리적 제작 정밀도와 재료 손실이 성능에 직접적인 영향을 미친다. 현재 3D 프린팅 공정은 미세 구조(수십 마이크로미터) 구현에 제약이 있어 고주파(가시광선) 영역으로 확장하기 어렵다. 둘째, 비선형 활성화가 파면 강도에 의존하기 때문에 전통적인 ReLU와 같은 다양성을 제공하지 못한다. 셋째, 학습된 파라미터가 고정된 물리적 구조에 영구적으로 매핑되므로, 환경 변화(온도, 습도)나 새로운 작업에 대한 재학습이 어려울 수 있다. 향후 연구는 메타표면 기반의 고정밀 회절층, 전기광학적 가변소자를 이용한 동적 재구성, 그리고 광학 비선형 물질을 활용한 보다 풍부한 활성화 함수 구현 등을 통해 이러한 제약을 극복하고, 실시간 영상 처리, 광학 보안, 저전력 AI 가속기 등 다양한 응용 분야로 확장할 수 있을 것으로 기대된다.