클래스별 차동 검출을 활용한 회절 광학 신경망 정확도 향상

초록

본 논문은 회절 기반 광학 신경망에 클래스별 차동 검출 방식을 도입하여 빛의 강도 비음수 제약을 완화하고, 두 개의 병렬 diffractive 네트워크를 통해 양·음 검출기의 신호 결합을 최소화한다. 이를 통해 MNIST, Fashion‑MNIST, CIFAR‑10(그레이스케일) 데이터셋에서 각각 98.52 %, 91.48 %, 50.82 %의 테스트 정확도를 달성했으며, 다중 네트워크 앙상블 방식에서도 유사하거나 약간 향상된 성능을 보였다. 이러한 설계는 전광학 연산의 고속·고병렬성을 유지하면서도 기존 회절 신경망의 정확도 한계를 뛰어넘는 새로운 길을 제시한다.

상세 분석

회절 딥 뉴럴 네트워크(Diffractive Deep Neural Networks, D2NN)는 입력 광을 여러 층의 회절면을 통과시키며 전파시켜, 각 층의 위상 및 진폭 변조를 학습으로 최적화한다. 전통적인 D2NN 설계는 광 강도의 비음수 특성에 의해 출력 레이어가 단순히 각 클래스별 픽셀 집합에 매핑되는 형태를 띠며, 이는 “가장 큰 밝기”를 선택하는 방식으로 분류를 수행한다. 그러나 이러한 비음수 제약은 신호 표현력을 크게 제한한다.

본 연구는 이 한계를 극복하기 위해 ‘클래스별 차동 검출(class‑specific differential detection)’을 도입한다. 각 클래스마다 두 개의 포토디텍터(양성, 음성)를 배치하고, 두 검출기 사이의 정규화된 차이 신호를 최대화하도록 학습한다. 차동 신호는 양·음 검출기의 상대적인 강도 차이를 이용하므로, 동일한 총 광량이라도 부호 정보를 인코딩할 수 있다. 이는 전통적인 ‘최대 밝기’ 방식보다 훨씬 풍부한 표현 공간을 제공한다.

차동 검출을 구현하기 위해 저자들은 두 개의 병렬 회절 네트워크를 설계하였다. 하나는 양성 검출기로 향하는 광 경로를, 다른 하나는 음성 검출기로 향하는 경로를 담당한다. 두 네트워크는 동일한 입력을 공유하면서도 독립적으로 위상 프로파일을 최적화한다. 이러한 병렬 구조는 광학적 신호 결합(coupling)을 최소화하고, 각 검출기 쌍이 보다 순수한 차동 정보를 수신하도록 만든다. 또한, 클래스 수가 많아질 경우 개별 클래스를 여러 차동 네트워크에 분산시켜 ‘다중 네트워크 앙상블’ 형태로 확장할 수 있다. 이때 각 네트워크는 독립적으로 학습되지만, 최종 출력은 공통 검출면에 투사된 빛을 종합해 결정한다.

실험에서는 MNIST, Fashion‑MNIST, 그리고 그레이스케일 CIFAR‑10 세 가지 데이터셋을 대상으로 시뮬레이션을 수행했다. 클래스별 차동 검출을 적용한 단일 병렬 네트워크는 각각 98.52 %, 91.48 %, 50.82 %의 정확도를 기록했으며, 이는 기존 D2NN(약 96 % 이하) 대비 현저히 높은 수치이다. 특히 CIFAR‑10과 같이 복잡한 패턴을 가진 데이터셋에서도 50 % 수준을 넘어서는 성능을 보인 점은 차동 접근법이 고차원 특징을 포착하는 데 유리함을 시사한다.

또한, 독립적으로 최적화된 여러 차동 네트워크를 하나의 검출면에 투사하는 앙상블 실험에서도 유사하거나 약간 향상된 결과(98.59 %, 91.06 %, 51.44 %)를 얻었다. 이는 전통적인 머신러닝에서의 배깅(bagging)이나 부스팅(boosting)과 유사한 효과를 광학적으로 구현한 것으로, 광학 시스템에서도 모델 다양성을 활용한 성능 향상이 가능함을 보여준다.

이 논문이 제시하는 주요 기여는 다음과 같다. 첫째, 비음수 제약을 우회하는 차동 검출 메커니즘을 도입해 광학 신호의 부호 정보를 활용했다. 둘째, 양·음 경로를 분리하는 병렬 회절 네트워크 설계로 신호 간섭을 최소화하고, 학습 효율을 높였다. 셋째, 클래스별로 네트워크를 분산시키는 앙상블 전략을 광학적으로 구현해 기존 D2NN의 정확도 한계를 뛰어넘었다. 마지막으로, 시뮬레이션 기반 평가를 통해 다양한 데이터셋에서 일관된 성능 향상을 입증함으로써, 차동 회절 신경망이 차세대 전광학 인공지능 하드웨어의 핵심 설계 원칙이 될 가능성을 제시한다.