포톤 기반 양자 머신러닝을 위한 메르린 통합 탐색 엔진

초록

메르린은 선형광학 회로의 강력 시뮬레이션을 PyTorch와 scikit‑learn에 결합한 오픈소스 프레임워크이다. 자동 미분 가능한 양자 레이어, 두 가지 데이터 인코딩 방식, 하드웨어‑인식 설계 등을 제공해 포톤 양자 머신러닝 모델을 재현·벤치마크하고, 기존 AI 툴과의 원활한 하이브리드 워크플로우를 가능하게 한다.

상세 분석

본 논문은 포톤 기반 양자 머신러닝(QML) 연구가 아직 실험적 검증과 재현성 부족으로 분산된 상태임을 지적하고, 이를 통합적으로 다루는 플랫폼의 필요성을 강조한다. 메르린은 Perceval의 최적화된 Discrete‑Variable( DV) 시뮬레이터인 SLOS를 핵심 엔진으로 채택한다. SLOS는 전체 Fock 상태 벡터를 한 번에 계산하고, 중간 전이 그래프를 사전에 구축함으로써 각 포워드 패스에서 유니터리 행렬 요소만 재계산하도록 설계돼, 전통적인 영구 행렬(permanent) 계산 대비 메모리·시간 효율성을 크게 향상시킨다. 메모리 요구량은 O( C(n+m‑1,n) )이며, 현재 일반 GPU 환경에서 약 20광자 이하까지 실용적으로 시뮬레이션할 수 있다.

프레임워크는 PyTorch의 torch.nn.Module을 상속한 QuantumLayer 객체를 제공한다. 이 객체는 파라미터 θ(위상 및 빔스플리터 반사율)와 측정 전략, 계산 공간(전체 Fock, 제한된 서브스페이스, 듀얼레일 등) 그리고 탐지기 모델(광자수분해능, 임계 검출) 등을 명시적으로 분리한다. 이러한 설계는 회로 설계, 상태 표현, 출력 해석을 독립적으로 조합할 수 있게 해, 복잡한 하이브리드 모델을 기존 신경망 모듈 사이에 끼워 넣는 것이 자연스럽다.

데이터 인코딩은 두 가지로 제한된다. 첫째, angle encoding은 입력 특징을 특정 모드의 위상 변환에 매핑해, 회로가 Fourier‑like 모델을 구현하도록 만든다. 논문은 입력 광자 수 n이 증가할수록 접근 가능한 주파수 스펙트럼이 선형적으로 확장되어 표현력이 강화된다는 수식을 제시한다. 둘째, amplitude encoding은 클래식 벡터를 직접 양자 상태 진폭에 매핑한다. 이는 다른 광학 회로에서 생성된 상태를 그대로 활용하거나, 복소수 텐서를 직접 입력으로 사용할 때 유용하다.

하드웨어‑인식 설계는 두 단계에서 구현된다. 시뮬레이션 단계에서는 실제 포톤 프로세서의 제한(모드 수, 광자 손실, 검출 효율 등)을 파라미터화하여, 알고리즘 설계자가 하드웨어 제약을 고려한 최적화를 수행하도록 돕는다. 실행 단계에서는 MerlinProcessor 추상화를 통해 Quandela 클라우드 포톤 QPU와 직접 연결할 수 있다. 이를 통해 사용자는 시뮬레이션에서 얻은 파라미터를 그대로 하드웨어에 전송해 실험적 검증을 수행하거나, 하드웨어가 지원하지 않는 규모를 시뮬레이션으로 확장해 탐색할 수 있다.

재현 실험 부분에서는 18개의 최신 포톤·하이브리드 QML 논문을 메르린 환경에서 재현했다. 커널 방법, 리저버 컴퓨팅, 컨볼루션·리커런트 네트워크, 생성 모델 등 다양한 아키텍처를 포함하며, 각 논문의 성능 지표와 학습 곡선을 동일한 환경에서 비교했다. 재현 결과는 원 논문과 일치하거나 미세한 차이를 보였으며, 특히 데이터 전처리와 최적화 전략이 성능에 미치는 영향을 정량화하는 데 성공했다. 이러한 베이스라인은 향후 새로운 알고리즘이 실제 양자 이점인지, 혹은 기존 엔지니어링 최적화에 의한 것인지를 명확히 판단하는 기준이 된다.

전반적으로 메르린은 포톤 QML 연구의 “소프트웨어 사일로”를 해소하고, 자동 미분, 하드웨어‑인식 시뮬레이션, 재현 가능한 벤치마크를 한데 모은 통합 플랫폼으로서, 학계·산업 모두가 효율적으로 실험을 설계·검증·확장할 수 있게 한다.