전이 엣지 센서 시간 파형 이진 분류를 위한 CNN 연구

초록

ALPS II 실험에 사용될 1064 nm 광자를 검출하는 전이 엣지 센서(TES)의 신호와 배경 파형을 구분하기 위해 합성곱 신경망(CNN) 기반 이진 분류기를 개발하였다. 하이퍼파라미터 최적화에도 불구하고 CNN은 기존의 절단 기반 분석보다 검출 유의성을 향상시키지 못했으며, 이는 1064 nm 근처의 블랙바디 광자에 의한 학습 혼란이 주요 원인으로 판단된다. 저자는 회귀 모델이나 오토인코더와 같은 비지도 학습이 에너지 해상도 개선에 더 적합할 것이라고 제안한다.

상세 분석

본 논문은 ALPS II 실험에서 요구되는 10⁻²⁴ W 수준의 초저광량 검출을 목표로, 초전도 전이 엣지 센서(TES)의 출력 전압 파형을 이용한 광자와 배경 구분 문제에 머신러닝을 적용한 최초 사례 중 하나이다. 실험적으로 1064 nm 레이저를 약하게 조사하여 3898개의 단일광자 파형(‘빛’ 파형)과, 광섬유를 차단한 상태에서 8872개의 배경 파형(‘어두움’ 파형)을 수집하였다. 파형은 50 MHz 샘플링으로 24 µs(1200 샘플) 구간으로 절단하고, 전압 오프셋을 제거한 뒤 CNN 입력으로 사용하였다.

CNN 구조는 1차원 컨볼루션 레이어와 풀링 레이어를 여러 층 쌓은 뒤, 완전 연결층으로 이진 출력(빛/어두움)을 예측하도록 설계되었다. 하이퍼파라미터(필터 수, 커널 크기, 학습률, 배치 크기 등)는 그리드 서치와 베이지안 최적화를 통해 광범위하게 탐색했으며, 교차 검증을 통해 최적 모델을 선정하였다. 모델 성능 평가는 정확도, 정밀도, 재현율, ROC‑AUC 등 다양한 지표로 수행되었고, 최종적으로 기존 절단 기반 분석(특히 χ² 오류와 피크 높이 기반)의 검출 유의성(신호 효율 대비 배경 억제 비율)보다 미흡한 결과를 보였다.

주된 원인으로 저자는 두 가지를 제시한다. 첫째, ‘어두움’ 파형 중 블랙바디 복사에 의해 발생한 근접 1064 nm 광자 이벤트가 빛 파형과 형태가 매우 유사해 CNN이 학습 과정에서 라벨 혼동을 겪었다. PCA 분석에서도 χ² 오류와 피크 높이 변수에 의해 두 클래스가 부분적으로 겹치는 것이 확인되었다. 둘째, 이진 분류라는 근본적인 접근 방식이 에너지 해상도(광자 에너지 추정)를 직접 다루지 못한다는 점이다. 즉, CNN이 파형의 미세한 진폭 차이를 포착하더라도 이를 에너지 값으로 변환하지 않으므로, 배경 억제에 한계가 있다.

이에 저자는 회귀 기반 CNN(파형을 직접 에너지 스케일에 매핑)이나, 비지도 학습인 오토인코더를 활용해 노이즈를 제거하고 특징을 압축하는 방법이 더 효과적일 것이라고 제안한다. 오토인코더는 정상(빛) 파형을 학습한 뒤, 재구성 오류를 기반으로 비정상(배경) 파형을 탐지할 수 있어, 라벨링 오류에 덜 민감한 장점이 있다. 또한, 시간 도메인 대신 주파수 도메인 피팅을 활용한 기존 연구와 결합하면 에너지 해상도를 2배 이상 개선할 가능성이 있다.

결론적으로, 현재의 CNN 이진 분류기는 TES 파형의 복잡한 물리적 변동성을 충분히 반영하지 못했으며, 향후 연구는 파형을 연속적인 에너지 변수로 모델링하거나, 비지도 학습을 통한 노이즈 억제에 초점을 맞춰야 한다. 이러한 방향은 ALPS II와 같은 초저광량 탐색 실험에서 검출 민감도를 실질적으로 향상시킬 수 있을 것이다.