델타3 통계 기반 누락 레벨 보정 최대우도 방법

초록

본 논문은 랜덤 행렬 이론의 Δ₃(L) 통계를 이용해 실험 스펙트럼에서 누락된 레벨 비율 x를 추정하는 최대우도 방법을 제안한다. 가우시안 정규 직교군(GOE)에서 생성한 결손 스펙트럼에 대해 검증했으며, 중성자 공명 데이터와 알루미늄 블록의 음향 스펙트럼에도 적용하였다. 기존의 Δ₃(L) 식 기반 분석과 비교해 높은 정확도를 보였다.

상세 분석

Δ₃(L) 통계는 레벨 간 간격의 스무딩된 변동성을 측정하는 RMT(Random Matrix Theory) 도구로, 기존에는 평균값 ⟨Δ₃(L)⟩만을 이용해 스펙트럼의 완전성을 평가했다. 저자들은 Δ₃(L) 계산 과정에서 얻어지는 개별 값 δ_i(=δ(L,i))들의 분포 p(δ)를 정밀히 분석하고, 이를 확률밀도 함수로 활용해 누락 레벨 비율 x에 대한 최대우도 추정량을 도출하였다. 구체적으로, GOE에서 생성된 완전 스펙트럼에 대해 p₀(δ) 를 구하고, 임의로 일정 비율 x의 레벨을 제거한 ‘결손 스펙트럼’에 대해 p_x(δ) 를 시뮬레이션으로 얻었다. 이후 실제 실험 스펙트럼에서 측정된 δ 집합에 대해 로그우도 L(x)=∑_i ln p_x(δ_i) 를 계산하고, L(x) 를 최대화하는 x̂ 를 최적 추정값으로 채택한다.

이 방법의 핵심은 p(δ)의 형태가 x에 따라 뚜렷하게 변한다는 점이다. 레벨이 누락될수록 δ 값들의 평균이 증가하고, 분포는 비대칭적인 꼬리를 갖게 된다. 따라서 단순히 ⟨Δ₃(L)⟩만을 이용하는 기존 방법보다 더 많은 정보를 활용해 x를 추정할 수 있다. 저자들은 또한 ‘intruder level’(실험에 포함되지 않아야 할 외부 레벨) 효과를 조사했는데, 이는 누락 레벨과 통계적으로 거의 동일한 변형을 초래함을 확인하였다. 즉, 이 방법은 누락과 외부 레벨 모두를 감지하는 일반적인 진단 도구로 활용 가능하다.

검증 단계에서는 GOE에서 10⁴개의 스펙트럼을 생성하고, 각각에 대해 0%~30% 범위의 누락 비율을 인위적으로 적용하였다. 최대우도 추정은 평균 오차가 0.5% 이하이며, 표준편차도 1% 미만으로 매우 높은 정확도를 보였다. 또한, 전통적인 Δ₃(L) 식을 이용한 추정과 비교했을 때, 특히 L 값이 작을 때(짧은 구간) 최대우도 방법이 더 안정적인 결과를 제공한다는 점을 강조한다.

실제 데이터 적용 사례로는 중성자 공명 실험에서 얻은 스펙트럼과 알루미늄 블록의 음향 진동 모드가 있다. 두 경우 모두 기존 문헌에서 보고된 누락 비율과 일치하거나 약간 개선된 값을 도출했으며, 특히 알루미늄 블록에서는 5% 수준의 누락이 존재함을 확인했다. 마지막으로, 셸 모델 계산을 통해 얻은 핵 스펙트럼이 GOE와 동일한 p(δ)를 보인다는 점을 실험적으로 입증함으로써, 이 방법이 복잡한 상호작용을 포함한 실제 물리 시스템에도 적용 가능함을 시사한다.