모델 독립 새로운 물리 탐색을 위한 반지도 학습 이상 탐지

본 논문은 고에너지 물리 실험에서 새로운 물리 현상을 찾기 위해 널리 사용되는 감독 학습 기반 분류기의 한계를 지적하고, 이를 보완할 수 있는 반지도 학습 기반 이상 탐지 프레임워크를 제안한다. 전통적인 방법은 신호와 배경을 모두 라벨링한 Monte‑Carlo(MC) 시뮬레이션 데이터를 필요로 하는데, 이는 모델 선택 오류, 파라미터 스캔의 불완전성, 시뮬레이션 자체의 체계적 편향 등으로 인해 실제 데이터와 불일치할 위험이 크다. 이러한 불일치가 발생하면, 신경망이나 부스팅 트리와 같은 감독 학습 분류기는 신호를 전혀 인식하지 못하고 전부 배경으로 오분류한다는 점을 그림 1을 통해 시각적으로 설명한다. 이에 저자들은 “반지도 학습 이상 탐지”라는 접근을 채택한다. 먼저 라벨이 있는 배경 데이터만을 이용해 다변량 가우시안 혼합 모델(GMM) p_B(x)를 학습한다. 이 배경 모델은 고정된 기준 분포로 사용되며, 관측된 전체 데이터(라벨이 없는)에는 추가적인 이상 모델 p_A(x)를 혼합한다. 전체 모델은 p_F(x) = (1‑λ) p_B(x) + λ p_A(x) 형태이며, λ는 이상(신호) 비율을 나타낸다. p_A(x) 역시 GMM 형태로 표현되며, EM 알고리즘을 통해 배경 파라미터는 고정하고 이상 파라미터와 λ만을 최적화한다. 이렇게 하면 “집합적 이상”, 즉 여러 이벤트가 모여 형성하는 밀도 상승을 탐지할 수 있다. 알고리즘의 핵심 절차는 다음과 같다. (1) 배경 데이터에 EM을 적용해 최적의 GMM(p_B) 파라미터를 추정한다. (2) 관측 데이터에 대해 고정된 p_B와 가변적인 p_A를 혼합한 모델을 구성하고, 전체 혼합 모델을 또 다른 EM 단계로 최적화한다. 여기서 p_A는 Q개의 가우시안 컴포넌트를 갖으며, Q와 J(배경 컴포넌트 수)는 교차검증 기반 정보 기준(CVIC) 등으로 선택한다. (3) 최적화된 λ와 p_A를 이용해 각 이벤트에 대한 이상 확률 D(x)를 계산하고, 임계값 T를 정해 이상/정상 판정을 수행한다. (4) λ 자체가 신호 비율을 제공하므로 물리적 해석(예: 단면 추정)에 활용 가능하고, 로그우도비 검정과 부트스트랩을 결합해 통계적 유의성을 평가한다. 실험적 검증으로 저자들은 CDF 실험의 WH→ℓνbb̄ 데이터셋을 사용한다. 데이터는 8개의 물리 변수(추가 NN 기반 플레버 구분기 포함)로 구성되며, PCA를 통해 2차원으로 차원 축소한다. 배경 모델은 5‑fold CVIC를 통해 J=5개의 가우시안 컴포넌트를 선택했고, 신호 모델은 초기 Q=3에서 시작해 실제 데이터에 맞게 1~2개의 컴포넌트로 수렴했다. 신호는 m_H=100,115,135,150 GeV 네 가지 질량에 대해 각각 400개의 이벤트를 삽입했으며, 전체 데이터에서 신호 비율은 약 10.5%였다(실제 물리에서는 이보다 훨씬 작지만 시연을 위해 확대함). 부트스트랩(5만 회) 결과, 각 질량에 대한 통계적 유의성은 1.8σ, 2.8σ, 3.1σ, 3.3σ로 나타났으며, 이는 모두 물리적 관심을 가질 만한 수준이다. ROC 곡선에서도 모든 질량에 대해 높은 신호 효율과 배경 억제율을 유지했으며, 특히 고질량 신호는 배경 밀도가 낮은 영역에 위치해 성능이 약간 향상되었다. 반면, 동일 데이터에 대해 150 GeV 신호만을 대상으로 훈련된 신경망은 해당 질량에 대해서만 높은 성능을 보이고, 다른 질량 신호는 거의 탐지하지 못했다. 이는 감독 학습이 사전 정의된 신호 형태에 강하게 의존함을 보여준다. 제안된 방법은 다음과 같은 장점을 가진다. 첫째, 신호 형태에 대한 사전 가정이 필요 없으며, 배경과 겹치는 영역에서도 집합적 밀도 변화를 포착한다. 둘째, λ를 통해 신호 비율을 직접 추정할 수 있어 물리량(예: 단면) 추정에 활용 가능하다. 셋째, EM 기반 GMM은 연속형 다변량 데이터에 효율적으로 적용 가능하고, 대규모 데이터셋에서도 확장성이 있다. 넷째, 부트스트랩을 이용한 통계적 검정으로 순수 통계 변동과 실제 신호를 구분할 수 있다. 결론적으로, 반지도 학습 기반 이상 탐지는 고에너지 물리에서 “모델‑독립” 탐색에 실용적인 대안을 제공한다. 특히 MC 기반 신호 모델링이 불확실하거나 새로운 현상이 기존 이론에 포함되지 않을 때, 기존 감독 학습 방식보다 더 견고하고 포괄적인 탐지를 가능하게 한다. 향후 LHC와 같은 대형 실험에서도 다변량 특성 추출, 고차원 데이터 처리, 실시간 트리거 적용 등 다양한 분야에 확장 적용이 기대된다.