베이지안 신경망을 활용한 입자 물리 신호와 배경 구분

초록

본 논문은 전통적인 역전파 학습 대신 베이지안 학습을 적용한 신경망을 이용해 테브라톤 실험에서 2세대 레프톤쿼크 탐색에 필요한 신호·배경 구분 성능을 평가한다. 베이지안 접근은 가중치에 대한 사전분포와 사후분포를 명시적으로 계산함으로써 과적합을 억제하고 예측 불확실성을 제공한다. 실험 결과, 베이지안 신경망은 전통적인 신경망보다 ROC 곡선 면적이 크게 향상되고, 훈련 데이터의 변동에 대한 민감도가 낮아 보다 견고한 분류기를 만든다.

상세 분석

이 연구는 입자 물리학에서 흔히 마주치는 신호와 배경을 구분하는 이진 분류 문제를 베이지안 신경망(BNN) 프레임워크로 재구성한다. 전통적인 피드포워드 신경망은 손실 함수를 최소화하는 가중치 집합을 찾는 최적화 문제로 정의되지만, 이는 하나의 점 추정치에 머무른다. 반면 BNN은 가중치에 대한 사전 확률분포를 설정하고, 관측된 데이터와 결합해 사후분포를 샘플링한다. 이 과정에서 마코프 체인 몬테 카를로(MCMC) 혹은 변분 추정법을 이용해 다수의 가중치 샘플을 얻으며, 각 샘플이 예측에 기여하도록 평균을 취한다. 결과적으로 출력은 단일 값이 아니라 확률적 분포가 되며, 이는 예측 불확실성을 정량화할 수 있게 한다.

논문에서는 레프톤쿼크 검색에 사용되는 전형적인 입력 변수—예를 들어 전자·뮤온의 transverse momentum, missing transverse energy, jet multiplicity 등—을 동일하게 두 모델에 제공한다. 네트워크 구조는 2개의 은닉층(각 10~15개의 뉴런)으로 설정하고, 전통 모델은 역전파와 정규화 기법(드롭아웃, L2)으로 학습한다. BNN은 가중치에 대한 가우시안 사전(평균 0, 분산 σ²)과 하이퍼파라미터(σ) 자체에 대한 비제한 사전(예: 로그-균등)을 도입한다. 사후분포 샘플링은 5,000번의 burn‑in 후 10,000번의 유효 샘플을 확보했으며, 각 샘플에 대해 테스트 데이터에 대한 예측을 수행하고 평균과 표준편차를 계산한다.

성능 평가는 ROC 곡선, 신호 효율(εₛ) 대비 배경 억제율(1‑ε_b) 그리고 신뢰구간 내의 변동성을 기준으로 한다. BNN은 전통 모델에 비해 AUC가 0.03~0.05 정도 상승했으며, 특히 높은 신호 효율 구간에서 배경 억제율이 10% 이상 개선되었다. 또한, 훈련 데이터의 무작위 재샘플링(bootstrapping) 실험에서 BNN의 ROC 곡선 변동폭이 전통 모델의 절반 수준에 머물러, 모델의 견고함이 입증되었다.

베이지안 접근의 또 다른 장점은 사후분포를 통해 각 입력 변수의 중요도를 베이지안 모델 증거(Bayes factor) 형태로 해석할 수 있다는 점이다. 논문에서는 변수별 기여도를 정량화해, 특히 missing transverse energy와 jet‑pair invariant mass이 신호 구분에 핵심적인 역할을 함을 확인했다. 이러한 해석 가능성은 물리적 모델링과 실험 설계에 직접적인 피드백을 제공한다.

요약하면, 베이지안 신경망은 (1) 과적합 억제와 자동 정규화, (2) 예측 불확실성 제공, (3) 변수 중요도 정량화라는 세 가지 측면에서 전통적인 신경망을 능가한다. 입자 물리 분석에서 시스템atics와 통계적 불확실성을 동시에 다루어야 하는 상황에 특히 유용하며, 향후 대규모 LHC 데이터 분석에도 적용 가능성이 높다.