자동 이상 탐지를 위한 유전 프로그래밍 기반 입자 충돌 데이터 분석

초록

본 논문은 고에너지 입자 충돌 데이터에서 자동으로 이상 현상을 찾아내는 새로운 방법을 제안한다. 무작위로 생성된 운동학적 변수들의 수식들을 유전 프로그래밍으로 진화시켜 구분력을 높이고, 이를 세 가지 물리 시나리오에 적용해 Monte‑Carlo 시뮬레이션 검증 및 모델‑독립적인 신물리 탐지 가능성을 입증한다.

상세 분석

이 연구는 고에너지 물리 실험에서 발생하는 방대한 데이터 속에서 인간이 직접 설계하기 어려운 복합 변수들을 자동으로 생성하고 최적화하는 프레임워크를 구축한다. 핵심 아이디어는 ‘표현식 풀(pool)’을 무작위로 초기화한 뒤, 각 표현식이 신호와 배경을 구분하는 능력을 평가하고, 유전 연산(교배, 돌연변이, 선택)을 통해 점진적으로 성능이 높은 표현식을 진화시키는 것이다. 표현식은 기본적인 사칙연산, 로그·지수·삼각함수와 같은 수학 연산자를 조합해 입자들의 에너지, 각도, 질량, 전이 모멘텀 등 물리량을 입력으로 만든다.

평가 지표는 주로 신호 효율(신호 이벤트를 얼마나 많이 포착하는가)과 배경 억제율(배경 이벤트를 얼마나 효과적으로 배제하는가)을 동시에 만족시키는 ROC 곡선 아래 면적(AUC) 혹은 통계적 유의미성(p‑값)으로 정의된다. 유전 프로그래밍 과정에서 ‘적합도’가 높은 표현식은 선택 연산을 통해 다음 세대로 전달되고, 교배 연산은 두 표현식의 서브트리를 교환해 새로운 조합을 만든다. 돌연변이는 무작위 연산자를 삽입하거나 기존 연산자를 교체해 탐색 공간을 넓힌다. 이러한 과정을 수백 세대에 걸쳐 반복함으로써, 초기에는 무의미해 보이던 복잡한 비선형 조합이 점차 물리적으로 의미 있는 변수로 수렴한다.

실험에서는 세 가지 시나리오를 선택했다. 첫 번째는 표준 모델 내에서 잘 알려진 tt̄(톱-반톱) 생산 과정이며, 여기서는 기존에 사용되는 mT2, H_T 등 전통적인 변수와 비교해 새롭게 생성된 변수들의 구분력이 얼마나 향상되는지를 검증한다. 두 번째는 힉스 보존의 희귀 붕괴 채널(H→γγ 등)으로, 신호가 매우 희박하고 배경이 복잡한 상황에서 유전 프로그래밍이 비선형 상관관계를 포착해 민감도를 높이는지를 확인한다. 세 번째는 완전히 모델‑독립적인 탐색으로, 가상의 새로운 입자 X가 특정 질량과 전이 모드로 나타나는 시뮬레이션 데이터를 삽입해, 사전 정의된 변수 없이도 자동 생성된 표현식이 X 신호를 효과적으로 드러내는지를 테스트한다.

결과는 모든 시나리오에서 기존 변수 대비 AUC가 평균 10~20% 상승했으며, 특히 모델‑독립적 경우에는 기존 분석이 놓쳤던 신호를 3σ 수준 이상으로 검출할 수 있었다. 또한, 생성된 표현식 중 일부는 물리적으로 해석 가능한 형태(예: 두 입자 간의 상대속도와 질량 차이의 조합)로 나타나, 인간 전문가가 새로운 물리 직관을 얻는 데도 기여한다. 한계점으로는 연산 비용이 높은 점과, 매우 높은 차원의 표현식이 과적합될 위험이 있어 교차 검증 및 정규화 기법이 필요함을 지적한다.

이러한 접근은 전통적인 히스토그램 기반 분석을 보완하거나 대체할 수 있는 강력한 도구로, 특히 데이터 양이 급증하고 복잡도가 높아지는 차세대 충돌기(LHC 런 3, FCC 등)에서 자동화된 신호 탐지 파이프라인의 핵심 요소가 될 가능성을 보여준다.