고도로 상관된 데이터의 공분산 피팅 문제 해결 방안

초록

본 논문은 작은 고유값을 가진 공분산 행렬과 높은 상관성을 보이는 B_K 데이터에 대해 기존의 전통적 피팅 방법이 실패하는 원인을 분석하고, 대각 근사와 고유값 절단 방법을 검토한 뒤, 공분산 행렬을 그대로 유지하면서 피팅 함수를 미세 조정하는 새로운 ‘고유모드 이동(Eigenmode Shift)’ 방법을 제안한다.

상세 분석

논문은 먼저 다변량 정규분포 가정 하에 평균값 ⟨y⟩와 공분산 행렬 C를 이용한 전통적인 χ² 최소화 피팅(T²) 절차를 정리한다. 여기서 핵심은 C⁻¹이 고유값 λₖ와 고유벡터 |vₖ⟩의 합으로 전개될 수 있다는 점이며, λₖ가 매우 작을 경우 T²는 해당 고유모드에 과도하게 민감해진다. 저자들은 SU(2) 스테거드 차이론에 기반한 B_K 데이터에 대해 4개의 데이터 포인트와 3개의 자유 파라미터를 사용한 피팅을 수행했으며, 공분산 행렬의 최소 고유값이 최대값보다 10⁴배 작아지는 상황을 관찰했다. 이때 전체 공분산 피팅은 χ²/d.o.f ≈ 7.2로 실패했으며, 고유모드 분해 결과 |v₄⟩(최소 고유값에 대응) 방향의 차이가 다른 모드에 비해 현저히 작아 실제 데이터와 피팅 곡선이 일치하지 않았다.

전통적인 해결책으로는 (1) 대각 근사(비상관 피팅)와 (2) 작은 고유값을 가진 모드들을 제외하는 절단(cutoff) 방법이 있다. 대각 근사는 작은 고유값 문제를 회피하지만 데이터 간 상관 정보를 완전히 무시한다. 절단 방법은 SV(D)라 불리며, 최소 고유값 모드를 0으로 설정해 C⁻¹을 재구성한다. 그러나 두 방법 모두 피팅 함수 자체의 구조적 오류를 보정하지 못한다.

이에 저자들은 ‘고유모드 이동(Eigenmode Shift, ES)’ 방법을 고안한다. 피팅 함수 f_th(X)에 작은 파라미터 η를 곱한 최소 고유값 고유벡터 |v₄⟩를 추가하여 f′_th(X)=f_th(X)+η|v₄⟩ 로 정의하고, 베이지안 사전분포 η∼N(0,σ_η²) (σ_η≈절단 오차 0.006) 를 도입해 확장된 χ²_aug=χ²+(η/σ_η)²를 최소화한다. 이렇게 하면 전체 공분산 행렬을 그대로 사용하면서도 피팅 함수가 최소 고유모드 방향에서 미세하게 조정되어 χ²가 크게 감소한다. 실제 적용 결과 η≈−8.2×10⁻⁵ 로 매우 작은 값이지만, 피팅 곡선은 데이터 포인트를 잘 통과하고 χ²/d.o.f≈1 수준으로 개선된다.

핵심 인사이트는 (i) 높은 상관성을 가진 데이터에서는 작은 고유값이 피팅 안정성을 크게 위협한다는 점, (ii) 피팅 함수의 구조적 오차가 고유모드 방향에 존재하면 전통적인 공분산 피팅이 실패한다는 점, (iii) 고유모드 방향에 대한 작은 보정 파라미터를 베이지안 프레임워크 안에서 도입하면 공분산 행렬을 손상시키지 않으면서도 안정적인 피팅이 가능하다는 점이다. 이 방법은 특히 물리학에서 차수 전개식이 제한된 경우, 혹은 실험·시뮬레이션 데이터가 고도로 상관된 상황에 널리 적용될 수 있다.