복잡한 광자 구조의 시간 영역 시뮬레이션을 가속하는 데이터 인식 퓨리에 신경 연산자

초록

본 논문은 데이터‑인식 퓨리에 신경 연산자(DA‑FNO)를 제안하여, 2D TM‑편광 전자기 파동의 시간 영역 진화를 자동 회귀 방식으로 예측한다. 물리적 결합을 반영한 3×3 컨볼루션과 데이터 기반 스펙트럼 모드 선택을 도입해 고주파 정보를 보존하고, 에너지 수렴 기준으로 시뮬레이션을 자동 종료한다. 실험 결과, C‑밴드(1530‑1565 nm)에서 11배 속도 향상과 약 95 % 정확도를 달성했으며, 복잡하고 무작위적인 기하 구조에도 일반화한다.

상세 분석

DA‑FNO는 기존 퓨리에 신경 연산자(FNO)의 스펙트럼 변환 구조에 두 가지 물리‑기반 개선을 추가한다. 첫 번째는 전자기장 세 성분(Ez, Hx, Hy)을 별개의 채널로 처리하는 대신, 3×3 컨볼루션 레이어를 통해 공간적 로컬 상호작용을 명시적으로 모델링한다는 점이다. 이 컨볼루션은 맥스웰의 회전 연산자(∇×)와 유사한 역할을 수행해, 각 성분이 다른 성분의 공간 미분에 의해 어떻게 변하는지를 학습한다. 두 번째는 고정된 직사각형 저역통과 대신, 전체 학습 데이터의 스펙트럼 분포를 분석해 중요한 고주파 모드들을 자동 선택하는 데이터‑인식 모드 선택 전략이다. 정규화된 스펙트럼을 누적하여 사전 정의된 임계값(θ)까지 포함되는 모드들을 선택함으로써, 복잡한 구조에서 발생하는 미세한 회절·산란 패턴을 손실 없이 보존한다.

이러한 설계는 두 가지 중요한 효과를 만든다. 첫째, 로컬 컨볼루션은 전자기장의 물리적 결합을 학습 데이터에 직접 인코딩함으로써, 전통적인 FNO가 채널을 독립적으로 처리하면서 발생하는 물리적 불일치를 해소한다. 둘째, 데이터‑인식 스펙트럼 선택은 고주파 성분을 유지하면서도 파라미터 수를 과도하게 늘리지 않아, 연산 효율성을 유지한다.

학습 과정에서는 5개의 연속 시간 스냅샷을 입력으로 사용하고, 각 스냅샷에 기하학적 정보(퍼미티비티 분포와 좌표)를 채널에 추가한다. 이렇게 구성된 텐서는 고차원 잠재 공간으로 리프팅된 뒤, 4개의 DA‑FNO 레이어를 통과한다. 각 레이어는 컨볼루션 → 퓨리에 변환 → 스펙트럼 가중치 → 역 퓨리에 변환 → 잔차 연결 → SELU 활성화 순서로 진행된다. 최종 출력은 다음 시간 단계의 전자기장 상태이며, 가장 오래된 스냅샷을 버리고 새로운 스냅샷을 추가하는 방식으로 자동 회귀가 이루어진다.

시뮬레이션 종료 기준은 전체 도메인 에너지 Uₜ₊₁이 기록된 최대 에너지 Uₘₐₓ의 δ(=10⁻²) 배 이하가 될 때이며, 이는 전파된 파동이 충분히 감쇠했음을 의미한다. CFL 제한이 사라진 덕분에 시간 스텝을 m·Δt (m=15) 로 확대할 수 있어, FDTD 대비 11배 빠른 시뮬레이션이 가능하면서도 평균 상대 L1 오차가 5 % 수준으로 유지된다.

실험에서는 무작위 사각형, 원형, 복합형 등 다양한 2D 구조와 C‑밴드 전 범위(1530‑1565 nm)에서의 파장 변화를 포함한 데이터셋을 생성하였다. DA‑FNO는 θ=0.9 일 때 선택된 스펙트럼 모드 수가 1817개이며, 테스트 셋에서 평균 ARL1E가 0.235 ± 0.027 로, 기존 FNO(ARL1E≈0.970)와 비교해 4배 이상 정확도가 향상되었다. 또한, 3D extruded 구조에 대한 예비 실험에서도 모델이 볼륨 특성을 학습함을 확인하였다.

전체적으로 DA‑FNO는 물리‑인식 네트워크 설계와 데이터‑구동 스펙트럼 선택을 결합해, 고속·고정밀 전자기 시간 영역 시뮬레이션을 구현한다는 점에서 기존 ML 기반 시뮬레이션 방법론의 한계를 크게 뛰어넘는다.