비모수 피크 탐지 알고리즘과 새로운 물리 탐색 적용

초록

본 논문은 통계·시스템 불확실성을 동시에 고려한 비모수적 피크 탐지 알고리즘(NPFinder)을 제안한다. 히스토그램의 1차 미분을 구하고, 단일 민감도 파라미터 Δ를 이용해 연속적인 상승 구간을 피크 후보로 식별한다. 피크 후보에 대해 양 끝점만을 사용한 선형 배경 추정을 수행하고, 배경 대비 신호의 차이를 제곱근으로 나누어 통계적 유의성을 σ로 계산한다. PYTHIA 기반 dijet 질량 분포와 인위적으로 삽입한 가우시안 피크에 적용해 Δ=1에서 5σ~100σ 수준의 피크를 성공적으로 복원함을 보인다. 기존 ROOT‑TSpectrum과 비교했을 때 파라미터 조정이 거의 필요 없으며, 비대칭 시스템 오류도 포함할 수 있는 장점이 있다.

상세 분석

논문은 고에너지 물리 실험에서 흔히 마주치는 ‘뾰족한’ 피크 탐색 문제를 비모수적 방법으로 해결하고자 한다. 기존의 스무딩(예: 이동 평균, Lowess, 스플라인) 기반 접근법은 배경을 부드럽게 만든 뒤 잔차를 피크로 간주하지만, 통계·시스템 불확실성을 정량적으로 반영하기 어렵다. 저자들은 히스토그램 각 bin i에 대해 인접 bin(i+1)과의 차이를 이용해 1차 미분 α_i를 정의한다. 여기서 중요한 점은 y_{i+1}이 y_i보다 클 경우 하위 오차(σ_{low})를, 작을 경우 상위 오차(σ_{up})를 사용해 보수적인 기울기를 계산한다는 것이다. 이렇게 하면 불확실성이 비대칭일 때도 과도한 과대평가를 방지한다.

다음으로 α_i를 N개의 연속된 bin에 대해 평균(¯α_N)하고, 연속적인 두 구간이 평균보다 Δ만큼 크게 상승하면 피크 시작을 선언한다(식 3). Δ는 유일한 자유 파라미터이며, 값이 작을수록 민감도가 높아져 잡음에 민감해진다. 피크가 시작되면 이후 연속적인 bin을 피크 영역으로 확장하고, 두 구간 모두 평균보다 낮아지는 순간(α_{N+1},α_{N+2}<¯α_N) 피크의 최고점을 찾는다. 이때 피크가 대칭이라고 가정해 피크 중심 양쪽에 동일한 수의 bin을 포함시키며, 이는 급격히 감소하는 배경(예: dijet 질량)에서 피크 넓이를 약간 과소평가하게 만든다.

피크 영역이 확정되면 첫 번째와 마지막 bin을 이용해 선형 배경 y = mx + b를 추정한다. 여기서도 오차를 보수적으로 더해 m와 b를 계산한다(식에 δy 포함). 이렇게 얻은 배경선 아래에 있는 실제 데이터와 배경선 사이의 차이를 r_i라 하고, Σ r_i / √Σ r_i^2 로 정의한 σ가 피크의 통계적 유의성을 제공한다. 저자들은 σ>5~7을 ‘통계적으로 의미 있는 피크’로 정의한다.

알고리즘을 PYTHIA로 생성한 200 pb⁻¹ 규모의 pp 충돌 데이터에 적용했을 때, Δ=1로 설정하면 배경만 있는 경우에는 5σ 이상 피크가 전혀 발견되지 않는다. 이후 인위적으로 3개의 가우시안 피크(위치 1000 GeV, 1500 GeV, 2800 GeV)를 삽입하면 모두 검출하고, 위치·폭·σ를 정확히 복원한다. ROOT‑TSpectrum과 비교했을 때, TSpectrum은 피크 탐지 후 추가적인 파라미터 튜닝과 별도 피크 신호 모델링이 필요했으며, 자동화가 어려웠다. 반면 NPFinder는 Δ 하나만 조정하면 되며, 시스템 오차를 직접 포함할 수 있다는 점에서 실험 분석 파이프라인에 바로 적용 가능하다.

한계점으로는 피크가 비대칭이거나 배경이 급격히 변하는 구간에서 선형 배경 가정이 부정확할 수 있다는 점, Δ와 피크 폭 사이에 경험적 관계가 존재한다는 점(넓은 피크는 Δ를 작게 잡아야 함) 등이 있다. 또한 σ 계산이 단순히 신호와 배경 차이의 비율에 기반하므로, χ² 기반 정밀 피팅에 비해 보수적일 수 있다. 그럼에도 불구하고, 복잡한 다채널(다중 변량 질량) 분석에서 인간의 눈으로 일일이 검토하기 어려운 경우, 비모수적 접근법은 빠르고 신뢰성 있는 ‘경고’ 역할을 수행한다.