FPGA 기반 ATLAS 칼로리미터 에너지 재구성을 위한 최적화 신경망

초록

본 논문은 HL‑LHC에서 예상되는 200배의 펠리‑업 환경에 대응하기 위해, ATLAS 액체 아르곤 칼로리미터의 셀 에너지 재구성을 FPGA에서 실시간으로 수행할 수 있는 경량 신경망을 설계·최적화한다. 베이지안 최적화를 통해 Dense, CNN, Dense+RNN 구조를 압축했으며, 80 MeV 수준의 전이 에너지 해상도를 달성해 기존 Optimal Filtering(OF) 방식과 유사 복잡도의 RNN을 능가한다. 또한 Dense 모델에 Deep Evidential Regression을 적용해 이벤트별 불확실성을 최소한의 연산 비용으로 추정한다.

상세 분석

이 연구는 HL‑LHC 시대에 필수적인 125 ns 이하의 초저지연과 500 MAC 이하의 연산 제한을 만족하면서도, 0 ~ 130 GeV 전이 에너지 전 범위에서 80 MeV 수준의 에너지 해상도를 제공하는 신경망을 구현한다는 점에서 의미가 크다. 먼저, 칼로리미터 셀의 전자 펄스를 40 MHz 샘플링으로 디지털화하고, 전형적인 셀(η=0, φ=0)에서 평균 µ=200인 펠리‑업을 시뮬레이션했다. 입력으로는 목표 펄스 전후 28개의 샘플을 사용했으며, OF는 5개의 후방 샘플만 활용한다는 차이가 있다.

베이지안 최적화는 에너지 해상도(σ_E/E)와 파라미터 수(또는 MAC 수)를 가중합한 목적 함수를 정의하고, 30~100회의 반복을 통해 하이퍼파라미터(전처리 샘플 수, 내부 레이어 차원, CNN 필터 수·크기 등)를 탐색한다. 이 과정에서 Gaussian Process surrogate와 Expected Improvement acquisition 함수를 사용해 효율적인 탐색을 수행했다.

아키텍처별 특징은 다음과 같다.

• Dense: 두 단계(Pre‑dense, Main‑dense, Final‑dense)로 구성된 완전 연결망이며, 전처리 샘플을 먼저 보정하고 후방 샘플과 결합해 최종 에너지를 예측한다. 전체 파라미터 89개, MAC 368으로 가장 가볍다.
• CNN: 1‑D 필터 5개(k=7)와 2‑D 필터 6개(k=11×5)를 순차적으로 적용하고, 최종 9×6 필터가 Dense 레이어와 동일한 역할을 한다. 재사용 가능한 컨볼루션 연산 덕분에 MAC 419이면서도 높은 정확도를 유지한다.
• Dense+RNN: Pre‑dense가 RNN 초기 상태를 생성하고, 짧은 후방 샘플 시퀀스를 RNN이 처리한 뒤 최종 Dense가 에너지를 출력한다. 이는 순수 RNN이 필요로 하는 O(N·d²) 연산을 크게 감소시킨다. 파라미터 392, MAC 392.
• RNN(기존): 5개의 vanilla RNN 셀(차원 8)과 최종 Dense 레이어로 구성되며, 연산량이 크게 늘어나 파라미터 161, MAC 240에 머물지만 해상도는 열악했다.

실험 결과, Dense, CNN, Dense+RNN 모두 전이 에너지 전 구간에서 평균 80 MeV 이하의 해상도를 보였으며, 특히 저에너지(≤5 GeV) 구간에서 OF보다 30 % 이상 개선되었다. RNN은 동일한 MAC 수에서도 해상도가 크게 떨어졌으며, 에너지 스케일이 지속적으로 낮게 편향되는 경향을 보였다.

불확실성 추정에는 Deep Evidential Regression을 Dense 모델에 통합했다. 네트워크는 평균값 μ와 스케일 파라미터 σ², 그리고 불확실성 하이퍼파라미터 α, β를 동시에 출력한다. 학습 시 NLL과 정규화된 스케일 손실을 결합해 예측 불확실성이 실제 오차와 일치하도록 유도했으며, 파라미터 증가량은 5 % 미만에 그쳤다.

FPGA 구현 측면에서는 Intel Agilex 7 기반 LASP 보드에 384셀당 하나의 네트워크를 매핑했으며, 파이프라인 설계와 연산 재사용을 통해 전체 지연을 110 ns 이하로 유지했다. 특히 CNN의 슬라이딩 윈도우 방식과 Dense+RNN의 사전 연산이 지연 최소화에 크게 기여했다.

전체적으로 이 논문은 고밀도 펠리‑업 환경에서도 실시간으로 정확한 에너지 재구성을 가능하게 하는 경량 신경망 설계와 베이지안 기반 하이퍼파라미터 최적화 방법을 제시함으로써, 차세대 LHC 트리거와 오프라인 재구성 파이프라인에 직접 적용 가능한 기술적 로드맵을 제공한다.