광학 유니버설 유니터리 디바이스 최적화와 Haar 초기화 전략

본 논문은 광학 회로 기반의 유니버설 유니터리 디바이스가 머신러닝 및 양자컴퓨팅 등 다양한 응용 분야에서 핵심적인 하드웨어 플랫폼으로 부상하고 있음을 서두에서 강조한다. 이러한 디바이스는 N개의 입력 모드를 N개의 출력 모드로 변환하는 유니터리 행렬을 구현하는데, 일반적으로 직사각형 메쉬 구조(그리드형 MZI 배열)나 삼각형 메쉬 구조가 사용된다. 각 MZI는 50:50 빔스플리터와 두 개의 위상 시프터(θ, φ)로 구성되며, θ는 전송률 t=cos²(θ/2)와 직접 연관된다. 첫 번째 섹션에서는 메쉬의 수학적 모델링을 제시한다. 전체 유니터리 행렬 Ũ_R은 N(N‑1)/2개의 Givens 회전 U_n(θ_n, φ_n)과 입력 위상 D(γ₁,…,γ_N)의 곱으로 표현된다(식 4). 각 회전은 인접 파장 가이드 두 개에만 작용하는 로컬 상호작용 구조를 갖는다. 이때, 실제 제조 과정에서 발생하는 빔스플리터 비대칭(ε)과 위상 시프터의 드리프트는 MZI의 전송률과 반사률을 왜곡시켜, 메쉬가 구현하는 행렬이 중앙부에서 낮은 전송률을 보이는 밴드형 구조로 수렴하게 만든다. 두 번째 섹션에서는 이러한 밴드형 편향을 해소하기 위한 Haar 초기화 방법을 제안한다. 무작위 유니터리 행렬은 Haar 측정에 따라 생성되며, 각 MZI의 θ 파라미터는 감도 지수 α_n에 따라 확률 밀도 P_α(θ)=α·sin(θ)·cos^{2α‑1}(θ) 를 따른다(식 6). 이를 누적 분포 함수(CDF) ξ_n=∫_{π/2}^{θ/2}P_α(θ')dθ' 로 정의하고, ξ_n을 균등(0,1) 난수로 샘플링하면 θ_n=2·arccos√(α_n·ξ_n) 로 직접 설정할 수 있다(식 9). 이 과정은 메쉬 전체에 걸쳐 전송률이 α에 비례해 평균적으로 감소하도록 설계되어, 초기 단계부터 빛이 전체 파장 가이드에 고르게 퍼지게 만든다. 시뮬레이션 결과, Haar 초기화된 메쉬는 동일한 학습 목표에 대해 수렴 속도가 10‑100배 빨라졌으며, 특히 N=64, 128 규모에서 무작위 초기화 대비 평균 손실이 크게 감소하였다. 세 번째 섹션에서는 메쉬 규모 N이 증가함에 따라 위상 허용 오차가 어떻게 축소되는지를 분석한다. 평균 감도 지수는 (N+1)/3이며, α가 클수록 θ의 표준편차 σ_θ(α) 가 감소한다(그림 3b,c). 따라서 대규모 메쉬에서는 중앙부 MZI가 매우 정밀한 위상 제어를 요구한다는 점을 지적한다. 네 번째 섹션에서는 두 가지 아키텍처 개선안을 제시한다. 첫 번째는 기존 메쉬에 중복 MZI를 삽입해 자유도를 늘리는 방법이다. 이는 각 출력에 도달하는 경로 수를 증가시켜, 최적화 과정에서 발생하는 지역 최소에 빠질 위험을 감소시키고, 수렴 오차를 최대 10⁵ 배 감소시킨다. 두 번째는 파장 가이드 레이어를 순열(permutation)하는 방식이다. 동일한 MZI 수를 유지하면서도 연결 패턴을 재배열함으로써, 중앙부 MZI가 담당하는 입력·출력 포트 수를 감소시켜 감도 지수를 낮춘다. 결과적으로 위상 시프터의 허용 오차가 넓어지고, 오프다이애고날 오류가 감소하여 학습 시간이 크게 단축된다. 마지막으로, 저자들은 시뮬레이션을 통해 제안된 Haar 초기화와 아키텍처 보강이 실제 제조 공정에서 발생하는 10% 수준의 빔스플리터 오차와 0.01π 정도의 위상 잡음에도 강인함을 확인한다. 이는 향후 N≈1000 규모의 광학 유니버설 유니터리 디바이스가 실용적인 머신러닝 가속기 혹은 양자 시뮬레이터로 활용될 수 있는 기반을 제공한다는 점에서 의미가 크다.