조건부 정규화 흐름을 이용한 칼로미터 샤워 초해상도 구현 및 통계 평가

본 논문은 고에너지 물리학에서 칼로미터 시뮬레이션의 계산 비용을 낮추기 위한 데이터‑드리븐 초해상도(super‑resolution) 접근법을 제안하고, 이를 정규화 흐름(Normalizing Flow, NF) 기반 생성 모델에 적용한 전 과정을 상세히 기술한다. 서론에서는 LHC와 HL‑LHC의 데이터 폭증으로 인한 시뮬레이션 병목 현상을 설명하고, 기존 파라메트릭 fast‑simulation이 물리적 정밀도에서 한계가 있음을 지적한다. 특히, 고해상도 칼로미터가 제공하는 미세한 샤워 구조가 입자 식별·에너지 재구성에 필수적이며, 물리적 채널 고장이나 높은 pile‑up 상황에서도 초해상도 모델이 정보를 복원할 수 있음을 강조한다. 제1장에서는 머신러닝의 기본 개념을 정리하고, 지도학습·비지도학습·강화학습의 세 패러다임을 물리학 사례와 연결한다. 특히, 생성 모델이 “데이터에서 데이터”를 학습한다는 점을 강조하며, 이후 장에서 다룰 정규화 흐름의 수학적 기반을 소개한다. 제2장에서는 생성 모델 전반을 검토하고, 정규화 흐름의 이론적 배경(역변환 가능성, Jacobian 로그‑determinant, 확률밀도 변환)과 주요 변형인 Coupling Flow와 Autoregressive Flow를 설명한다. 이어서 Masked Autoregressive Flow(MAF)와 그 구현 방식인 MADE, 그리고 연속적인 비선형 변환을 가능하게 하는 Rational Quadratic Spline(RQS) 변환을 상세히 서술한다. 평가 절차에서는 두 샘플 가설 검정(two‑sample hypothesis testing) 프레임워크를 도입하고, Sliced Wasserstein, Kolmogorov‑Smirnov, Maximum Mean Discrepancy, Fréchet Gaussian Distance, Likelihood‑ratio 등 다양한 Integral Probability Metrics(IPM)을 정의한다. 이러한 지표들은 고차원 전체 분포와 물리적 관측량별 1‑D 주변 분포를 동시에 평가하도록 설계되었다. 제3장에서는 칼로미터 물리와 Geant4 기반 Par04 샘플러의 구조를 설명한다. 전자·광자·중성자·양성자 샤워의 전자‑광자 캐스케이드, 샘플링 칼로미터의 층 구조, 그리고 에너지 비율·클러스터 형태·입자‑입사각 등 물리적 특징을 정리한다. 초해상도 문제는 저해상도(코스톤) 셀 맵을 입력으로 받아, 동일 입자 조건 하에 파인 그레인(세부 셀) 에너지 분포를 복원하는 것으로 정의된다. 제4장에서는 실험 설정을 구체화한다. 데이터는 CaloChallenge 2022의 Dataset 2(Geant4 Par04)에서 추출했으며, 총 1.2 M 이벤트를 훈련·검증·테스트로 분할하였다. 전처리 단계는 셀 에너지의 로그‑스케일 변환, 정규화, 그리고 입자 종류·에너지·입사각을 1‑D 임베딩으로 변환하는 과정을 포함한다. 모델 아키텍처는 12개의 MAF 레이어와 각 레이어당 256개의 히든 유닛, RQS 변환을 사용했으며, 조건부 입력은 레이어마다 concat‑skip 연결로 전달된다. 손실 함수는 역변환 로그‑우도(NLL)를 최소화하는 형태이며, Adam 옵티마이저와 cosine‑annealing 학습률 스케줄을 200 epoch 동안 적용하였다. 하드웨어는 NVIDIA A100 GPU 2대와 PyTorch 2.0 기반 구현을 사용했다. 평가 결과는 크게 두 부분으로 나뉜다. 첫째, 훈련 과정에서 NLL이 지속적으로 감소하고, 검증 셋에서 과적합이 거의 관찰되지 않아 모델의 일반화 능력이 확인되었다. 둘째, 통계적 평가에서는 전체 30‑차원 샤워 벡터에 대해 Sliced Wasserstein 거리와 Fréchet Gaussian Distance가 원본과 거의 동일한 값을 보였으며, p‑value > 0.05를 기록했다. 물리적 관측량(층별 에너지 비율, 클러스터 중심 좌표, 에너지 RMS 등)별 KS 검정 역시 대부분 0.95 이상의 신뢰 구간을 유지했다. 다만, 저에너지(≤ 10 GeV)와 다중 입자 이벤트에서는 MMD와 FGD가 약간 상승하여 모델이 희소한 에너지 패턴을 완전히 포착하지 못함을 시사한다. 이러한 한계는 향후 더 깊은 흐름 레이어와 혼합형 손실(예: Wasserstein‑GAN) 도입으로 개선 가능하다. 제5장에서는 연구 전반을 요약하고, 주요 교훈을 정리한다. 정규화 흐름은 물리적 제약을 유지하면서 고해상도 샤워를 효율적으로 재현할 수 있음을 입증했으며, 제안된 두 샘플 검정 프레임워크는 HEP 분야에서 생성 모델 검증의 표준이 될 잠재력을 가진다. 한계점으로는 데이터 양에 대한 민감도, 저에너지 영역에서의 성능 저하, 그리고 조건부 입력 설계의 최적화 부족을 들었다. 향후 연구 방향으로는 다중 조건(예: 입자 종류와 동시에 여러 입자) 모델링, 변분 오토인코더와 결합한 하이브리드 접근법, 그리고 실시간 트리거 시스템에 적용 가능한 경량화 모델 설계 등을 제시한다.