딥러닝 기반 초고속 정확한 M2 평가 섬유 빔

초록

본 논문은 시뮬레이션된 근거리 빔 패턴과 그에 대응하는 M² 값을 이용해 심층 합성곱 신경망(CNN)을 학습시킴으로써, 단일 CCD 이미지만으로 섬유 레이저 빔의 M²를 5 ms 이내에 예측하는 방법을 제시한다. 3~10개의 고유모드가 혼합된 경우에도 평균 오차가 2 % 이하이며, 잡음이 추가된 경우에도 2.5 % 미만을 유지한다. 실험 검증을 통해 실제 데이터에서도 높은 정확도와 강인성을 확인하였다.

상세 분석

이 연구는 기존의 M² 측정 방식이 요구하는 다중 위치에서의 빔 크기 측정 혹은 복잡한 모드 분해 과정을 대체할 수 있는 완전 새로운 접근법을 제시한다. 핵심 아이디어는 근거리(near‑field) 빔 강도 분포를 입력으로 하는 CNN을 구축하고, 이를 대규모 시뮬레이션 데이터로 사전 학습시켜 M² 값을 직접 회귀하도록 하는 것이다.

먼저 저자들은 1064 nm, 코어 직경 25 µm, NA 0.08인 전형적인 대모드 영역(step‑index) 섬유를 모델링하였다. LP01, LP11e, LP11o 등 최대 10개의 고유모드가 존재할 수 있으며, 각 모드의 진폭과 위상( nρ, nθ )을 무작위로 변조해 128 × 128 해상도의 근거리 강도 이미지 10 000장을 생성하였다. 이때 M²는 Yoda의 직접 계산식(전기장 기반)으로 정확히 구해 라벨링하였다. 라벨은 M² 값의 최대 범위에 맞춰 0‑1 사이로 정규화했으며, 이는 학습 안정성을 크게 향상시켰다.

CNN 아키텍처는 VGG‑16을 변형한 것으로, 입력 채널을 1(그레이스케일)로, 출력 뉴런을 2(수평·수직 M²)로 맞추었다. 첫 번째 컨볼루션 필터는 3 × 3 × 1, 마지막 활성화 함수는 회귀에 적합한 시그모이드로 교체하였다. 7개의 블록(컨볼루션‑풀링‑전결합)으로 구성되며, 손실 함수는 평균제곱오차(MSE)를 사용하고, 최적화는 SGD로 진행하였다. 학습률은 초기 0.01을 20 epoch 후 0.001로 감소시켰고, 총 50 epoch에서 수렴하였다. 각 경우(3, 5, 6, 8, 10 모드)마다 별도 모델을 훈련했으며, 훈련 시간은 약 2 시간이었다.

시뮬레이션 테스트에서는 학습에 사용되지 않은 1 000개의 이미지에 대해 평균 예측오차(Prediction Error, PE)가 0.4 %~2.0 % 사이였으며, 특히 모드 수가 적을수록 오차가 작았다. 오차 분포를 분석한 결과, 3‑mode 경우 95 % 이상의 샘플이 2 % 이하의 PE를 보였고, 10‑mode 경우에도 95 %가 5 % 이하의 PE를 기록했다. 이는 복잡한 모드 혼합에서도 CNN이 충분히 일반화될 수 있음을 의미한다.

잡음 내성 실험에서는 픽셀당 가우시안 잡음을 가중치(σ)로 조절해 입력 이미지에 추가하였다. σ ≤ 0.08(실제 실험에서 흔히 발생하는 수준)에서는 PE가 거의 변하지 않았으며, σ가 0.24에 이르러도 평균 PE는 2.5 %를 초과하지 않았다. 이는 실제 CCD 이미지가 갖는 전자노이즈나 배경광에 대해 모델이 강인함을 보여준다.

실험 검증에서는 4‑f 시스템을 이용해 실제 섬유 빔의 근거리 패턴을 촬영하고, 학습된 CNN에 입력하였다. 실험 결과는 시뮬레이션 라벨과 거의 일치했으며, 전통적인 caustic 측정에 비해 측정 시간이 수십 배 단축되었다. 또한, 단일 CCD만으로 실시간(≈200 Hz) M² 추정이 가능함을 시연함으로써, 고출력 펄스 레이저나 급변하는 빔 품질을 모니터링해야 하는 응용 분야에 큰 잠재력을 제시한다.

한계점으로는 현재 모델이 근거리 패턴에만 학습되었기 때문에, 다른 초점면에서의 이미지에 대해서는 재학습이 필요하다는 점이다. 또한, 모드 수가 증가할수록 네트워크 깊이와 학습 데이터 양을 늘려야 정확도를 유지할 수 있다. 향후 연구에서는 다양한 파장·섬유 구조·비정상 모드(예: 비선형 효과)까지 포괄하는 데이터셋을 구축하고, 전이학습(transfer learning) 기법을 적용해 범용성을 높이는 방안을 모색할 수 있다.

요약하면, 이 논문은 근거리 빔 이미지와 M² 사이의 비선형 매핑을 CNN으로 학습함으로써, 기존의 복잡하고 시간이 많이 소요되는 M² 측정 방식을 획기적으로 간소화하고, 실시간 고정밀 측정이 가능한 새로운 패러다임을 제시한다.