AI 기반 초고해상도 중성자 산란 데이터 복원

초록

본 논문은 소각각 중성자 산란(SANS) 실험에서 검출기 픽셀을 크게 binning하여 측정 시간을 단축하고, 딥 컨볼루션 신경망(CNN) 기반 초고해상도(super‑resolution) 학습으로 고해상도 데이터를 복원하는 방법을 제시한다. 이를 통해 실험 효율을 크게 높이고, 기존 장비로는 포착하기 어려운 빠른 동역학 현상을 실시간으로 관찰할 수 있다.

상세 분석

본 연구는 중성자 산란 데이터 수집의 병목 현상을 AI 기술로 해소하고자 하는 시도이며, 두 단계의 전략을 채택한다. 첫 번째 단계는 검출기 픽셀을 대폭 binning함으로써 통계적 신호‑대‑노이즈 비는 유지하면서도 측정 시간을 5배 이상 단축한다. 이때 발생하는 공간 해상도 손실은 전통적인 보간법으로는 회복이 어려운 수준이다. 두 번째 단계에서는 최신 초고해상도 이미지 복원에 널리 사용되는 깊은 컨볼루션 신경망(예: SRCNN, EDSR, RCAN)을 변형하여 SANS 패턴에 특화된 모델을 설계한다. 입력은 저해상도(대형 binning) 2‑D 강도 맵이며, 출력은 원본 고해상도(픽셀당 1 mm 이하)와 동일한 스케일의 강도 맵이다.

모델 학습을 위해 저해상도‑고해상도 쌍 데이터를 시뮬레이션 기반으로 대량 생성하였다. 시뮬레이션에는 실제 실험에서 관측되는 포아송 노이즈와 백그라운드 플랫노이즈를 포함시켜, 네트워크가 노이즈에 강인하도록 했다. 손실 함수는 L1 손실에 구조적 유사도(SSIM) 보정을 추가한 복합 형태를 사용했으며, 이는 전역적인 강도 보존과 미세한 패턴 재현을 동시에 최적화한다. 학습 과정에서 데이터 증강(회전, 대칭, 스케일 변환)을 적용해 다양한 샘플에 대한 일반화 능력을 확보하였다.

검증 단계에서는 실제 SANS 실험 데이터를 사용하였다. 저해상도 데이터는 의도적으로 binning하여 생성했으며, 동일 실험 조건에서 얻은 고해상도 데이터와 비교하였다. 결과는 평균 절대 오차(MAE)와 피크 위치 오차가 기존 보간법 대비 70 % 이상 감소했으며, 특히 작은 구조 피크와 고주파 변조가 눈에 띄게 복원되었다. 또한, 복원된 데이터로부터 얻은 반경 분포(R(q))와 구조 인자(S(q))는 원본과 통계적으로 유의미한 차이가 없었다.

기술적 한계도 존재한다. 첫째, 학습에 사용된 시뮬레이션 파라미터가 실제 시료의 복잡성을 완전히 포괄하지 못하면, 특정 구조(예: 비정질 고분자 네트워크)의 복원에서 편향이 발생할 수 있다. 둘째, 매우 낮은 중성자 플럭스 상황에서는 포아송 노이즈가 과도하게 커져 네트워크가 실제 신호와 노이즈를 구분하기 어려워진다. 셋째, 모델이 특정 검출기 기하학(예: 다중 모듈 배열)이나 비선형 감도 보정에 대해 사전 학습되지 않았다면, 복원 품질이 저하될 위험이 있다. 따라서 실제 적용 전에는 각 실험 설정에 맞는 파인 튜닝과 교차 검증이 필수적이다.

전반적으로 이 접근법은 실험 시간 단축과 데이터 품질 유지 사이의 전통적인 트레이드오프를 AI가 효과적으로 중재한다는 점에서 혁신적이다. 향후 실시간 피드백 루프에 통합하면, 동적 시료(예: 온도 급변, 전기장 펄스)에서의 연속 측정이 가능해져 중성자 과학의 연구 영역을 크게 확장할 수 있다.