포토닉 AI 시스템 민주화: 오픈소스 AI 기반 다계층 공동 설계 및 자동화 툴플로우

초록

포토닉스는 고성능 AI 및 과학 컴퓨팅을 위한 핵심 기술로 부상하고 있으며, 뛰어난 속도·병렬성·에너지 효율성을 제공한다. 그러나 전자‑포토닉 AI 시스템의 설계·배치는 디바이스 물리, 회로 설계, 시스템 아키텍처, AI 알고리즘 등 여러 계층에 걸친 높은 진입 장벽 때문에 여전히 어렵다. 성숙한 전자‑포토닉 설계 자동화(EPDA) 툴체인의 부재는 설계 주기를 장기간으로 끌어내며, 학제간 혁신과 공동 진화를 저해한다. 본 연구에서는 포토닉 엣지 AI와 트랜스포머 추론을 위한 확장 가능한 아키텍처 설계와, 빠른 EPIC AI 시스템 평가 및 설계 공간 탐색을 위한 오픈소스 모델링 툴 SimPhony를 소개한다. 또한 물리 기반 AI 맥스웰 솔버, 제조 공정 인식을 포함한 역설계 프레임워크, 메타옵티컬 신경망을 위한 확장 가능한 역학습 알고리즘 등 AI 기반 포토닉 설계 자동화 기술을 제시하여 차세대 전자‑포토닉 AI 시스템을 위한 통합 EPDA 스택을 구현한다.

상세 요약

이 논문은 전자‑포토닉 융합 AI 시스템을 실제 설계와 구현 단계까지 연결하는 ‘전 단계’를 하나의 툴플로우로 통합하려는 야심찬 시도를 보여준다. 먼저 포토닉 엣지 AI와 대규모 트랜스포머 추론을 위한 아키텍처 설계가 제시되는데, 이는 기존 전자 전용 가속기와 달리 광학 파동의 고유 병렬성을 활용해 연산량을 크게 줄이고 전력 소비를 최소화한다는 점에서 혁신적이다. 특히 ‘스케일러블’이라는 표현이 의미하는 바는, 작은 센서‑레벨 디바이스부터 데이터센터‑급 대규모 매트릭스 연산까지 동일한 설계 원칙을 적용할 수 있음을 시사한다.

핵심 엔진인 SimPhony는 오픈소스 모델링 툴로, 전자 회로 시뮬레이터와 광학 전자기 해석기를 결합한 하이브리드 환경을 제공한다. 사용자는 파라미터화된 포토닉 컴포넌트(예: MZI, Ring Resonator)를 끌어다 놓고, AI 워크로드를 매핑함으로써 설계‑검증‑최적화 과정을 몇 분 안에 반복할 수 있다. 이는 기존 상용 EPDA 툴이 수일에서 수주가 걸리는 ‘black‑box’ 접근법과는 대조적이며, 연구자와 엔지니어가 설계 공간을 직관적으로 탐색하도록 돕는다.

AI‑기반 설계 자동화 부분에서는 세 가지 기술이 눈에 띈다. 첫째, 물리 기반 AI 맥스웰 솔버는 전통적인 FDTD/FEM 방법보다 학습된 신경망을 이용해 10‑100배 빠른 전자기 해석을 가능하게 한다. 이는 설계 루프 내에서 실시간 피드백을 제공해 파라미터 튜닝을 가속한다. 둘째, ‘fabrication‑aware inverse design framework’는 제조 공정 변동(공정 편차, 포토리소그래피 한계 등)을 모델에 포함시켜, 설계 단계에서부터 실리콘 포토닉스 제조 가능성을 보장한다. 셋째, 메타옵티컬 신경망을 위한 ‘scalable inverse training algorithm’은 광학 구조 자체를 가중치와 활성 함수 역할을 하는 메타소재로 최적화한다. 즉, 전통적인 전자‑디지털 가중치 매핑을 넘어, 물리적 파라미터 자체가 학습 대상이 된다.

이러한 기술들을 계층적으로 결합한 EPDA 스택은 설계 주기를 ‘months → days → hours → minutes’ 수준으로 단축시킬 잠재력을 가진다. 또한 오픈소스라는 특성은 학계·산업·스타트업 간 협업을 촉진하고, 포토닉 AI 분야의 진입 장벽을 크게 낮춘다. 다만 현재 한계점도 존재한다. 첫째, AI 기반 맥스웰 솔버의 정확도는 학습 데이터의 품질에 크게 의존하므로, 극한 파라미터(고주파, 비선형 재료)에서는 오차가 누적될 수 있다. 둘째, 역설계 프레임워크가 고려하는 제조 변수는 주로 실리콘 포토닉스에 국한돼 있어, III‑V, 폴리머 등 이종 재료 시스템에는 추가 확장이 필요하다. 셋째, 메타옵티컬 신경망의 학습 비용이 여전히 고성능 GPU 클러스터를 요구하므로, 완전한 ‘클라우드‑프리’ 설계 환경을 구현하려면 더 효율적인 알고리즘이 요구된다.

종합하면, 이 논문은 포토닉 AI 시스템을 설계·시뮬레이션·제조까지 연결하는 통합 툴체인을 최초로 제시함으로써, 전자‑포토닉 공동 설계(co‑design) 패러다임을 실현한다. 향후 연구는 정확도‑속도 트레이드오프를 최적화하고, 다양한 재료·공정에 대한 범용성을 확보함으로써, 실제 상용 AI 가속기로의 전환을 가속화할 것으로 기대된다.