고에너지 물리학 데이터 분석의 최신 통계 기법

초록

본 강의는 고에너지 물리학(HEP) 데이터 분석에 점점 더 중요해지고 있는 두 가지 주제, 즉 베이지안 통계와 다변량 분석(특히 부스팅된 결정 트리, BDT)에 대해 소개한다. 베이지안 접근법은 확률을 믿음의 정도까지 확장하여 가설에 직접 확률을 부여하고, 전통적인 빈도주의가 다루기 어려운 질문에 답한다. 다변량 분석은 각 사건의 여러 특성을 최대한 활용해 사건 유형을 구분하며, BDT는 최근 HEP에서 널리 사용되는 강력한 분류기이다.

상세 분석

베이지안 통계는 확률을 ‘사건이 일어날 빈도’뿐 아니라 ‘특정 가설에 대한 신념의 정도’로 확장한다. 이 해석을 통해 사전 확률(prior)과 사후 확률(posterior)을 명시적으로 정의하고, 베이즈 정리를 이용해 관측 데이터와 결합한다. HEP에서는 측정값에 대한 사전 지식(예: 이전 실험 결과, 이론적 제한)을 사전 확률로 반영함으로써, 불확실성을 보다 직관적으로 다룰 수 있다. 특히 신호 강도와 배경 비율을 동시에 추정하거나, 시스템atics(예: 효율, 캘리브레이션 오차)를 nuisance 파라미터로 모델링하고 주변화(marginalization)함으로써 전체 불확실성을 통합한다. 베이지안 신뢰 구간(credible interval)은 빈도주의 신뢰 구간과 달리 직접적인 확률 해석을 제공하며, 베이즈 요인(Bayes factor)을 이용한 모델 비교는 가설 검정에 새로운 관점을 제공한다. 계산적으로는 마코프 체인 몬테 카를로(MCMC), 변분 베이지안, 중요도 샘플링 등 다양한 샘플링 기법이 필요하며, 최근에는 GPU 가속과 자동 미분을 활용한 효율적인 구현이 활발히 이루어지고 있다.

다변량 분석에서는 각 이벤트가 제공하는 다수의 물리량(에너지, 각도, 트랙 수 등)을 동시에 활용해 신호와 배경을 구분한다. 전통적인 선형 판별법(LDA, Fisher)에서는 변수 간 비선형 상관관계를 충분히 포착하기 어렵지만, 결정 트리(decision tree)는 변수 선택과 분할을 재귀적으로 수행해 복잡한 경계면을 모델링한다. 부스팅(Boosting)은 약한 학습기(단일 트리)를 순차적으로 학습시켜 이전 단계에서 오분류된 샘플에 가중치를 높이며, 최종 모델은 가중치가 부여된 트리들의 가중합으로 구성된다. AdaBoost와 Gradient Boosting이 대표적이며, HEP에서는 TMVA와 XGBoost 등 구현체를 활용한다. BDT의 주요 장점은 변수 중요도(feature importance)를 직접 제공해 물리적 해석을 돕고, 과적합(overfitting)을 조기 중단, 교차 검증, 트리 깊이 제한 등으로 제어할 수 있다는 점이다. 성능 평가는 ROC 곡선, AUC, 신호 효율 대비 배경 억제율, 그리고 최종 물리량(예: 신호 유의도)으로 측정한다. 또한 시스템atics를 반영한 훈련(예: 변형된 시뮬레이션)과 캘리브레이션(예: Platt scaling) 등을 통해 실제 데이터 적용 시 안정성을 확보한다.