가우시안 프로세스로 파트론 분포 함수 추정

초록

본 논문은 격자 QCD에서 얻은 매트릭스 원소를 이용해 파트론 분포 함수(PDF)를 복원하는 문제를 가우시안 프로세스 회귀(GPR)라는 베이지안 비모수 방법으로 해결한다. 다양한 커널, 평균 함수, 하이퍼파라미터 처리 방식을 탐색하고, Kullback‑Leibler 발산을 통해 데이터가 제공하는 정보량을 정량화한다. 합성 데이터와 실제 격자 결과에 대한 테스트를 통해 GPR이 모델 편향을 최소화하고 신뢰할 수 있는 불확실성 추정이 가능함을 보인다.

상세 분석

이 연구는 파트론 분포 함수(PDF)를 추정하는 전형적인 역문제, 즉 유한한 실험·격자 데이터로부터 무한히 많은 가능한 함수들을 구분해야 하는 상황을 베이지안 프레임워크 안에서 재정의한다. 기존의 파라메트릭 접근법은 함수 형태를 몇 개의 파라미터에 강제로 제한함으로써 정규화 효과를 얻지만, 이는 모델 편향(model bias)을 내포한다. 저자들은 이러한 한계를 극복하기 위해 가우시안 프로세스(GP)를 사전(prior) 분포로 채택한다. GP는 평균 함수와 공분산(커널)으로 완전히 정의되며, 함수 공간 전체에 대한 확률적 가중치를 제공한다.

핵심 기술적 선택은 다음과 같다. 첫째, 커널 종류를 다양하게 시험한다. Radial Basis Function(RBF), Matern, Rational Quadratic, 그리고 물리적 제약을 반영한 커스텀 커널(예: 변곡점 제어, 경계 조건 부여) 등을 도입해 각각이 PDF 복원에 미치는 영향을 비교한다. 둘째, 평균 함수는 단순히 0이 아닌, 물리적 기대값(예: x‑분포의 대칭성, 정규화 조건)을 반영하도록 설계한다. 이는 특히 데이터가 희소하거나 노이즈가 큰 영역에서 사후(posterior) 추정의 안정성을 크게 향상시킨다. 셋째, 하이퍼파라미터(길이 스케일 ℓ, 신호 변동 σ_f, 노이즈 수준 σ_n 등)를 고정하거나 마진(alternative marginalization) 방식으로 통합한다. 저자들은 최대우도(Maximum Likelihood)와 베이지안 증거(Bayesian evidence) 기반의 정보 기준(AIC, BIC, WAIC)을 활용해 최적 하이퍼파라미터를 선택하고, 모델 평균(model averaging)으로 여러 후보 모델을 가중합한다.

데이터 측면에서는 두 종류의 실험을 수행한다. 첫 번째는 알려진 PDF를 이용해 합성 매트릭스 원소를 생성하고, 다양한 노이즈 수준과 샘플링 간격을 적용해 ‘클로저 테스트’를 수행한다. 여기서 GPR은 원래 함수와 거의 일치하는 평균 추정과, 실제 변동을 포괄하는 신뢰구간을 제공한다. 두 번째는 실제 격자 QCD 계산에서 얻은 pseudo‑PDF 매트릭스 원소를 사용한다. 이 경우, Ioffe‑time ν 범위가 제한적이고 고ν 데이터는 큰 통계 오차를 갖는다. GPR은 이러한 불완전한 정보를 자연스럽게 보정하며, 특히 x→1 근처와 x→0 근처에서 물리적 제약(정규화, 양성성)을 만족하도록 사전 설계된 커널 덕분에 안정적인 외삽을 수행한다.

또한 저자들은 Kullback‑Leibler(KL) 발산을 이용해 사전과 사후 사이의 정보 획득량을 정량화한다. KL 발산이 큰 영역은 데이터가 실제로 PDF 형태를 크게 수정한 부분이며, 반대로 작은 영역은 사전이 이미 충분히 강력했음을 의미한다. 이를 통해 어느 x 구간이 현재 격자 데이터에 의해 가장 잘 제약되는지 시각적으로 파악할 수 있다.

결과적으로, GPR 기반 비모수 접근법은 (1) 모델 편향 최소화, (2) 불확실성 정량화, (3) 물리적 제약의 유연한 구현, (4) 하이퍼파라미터와 커널 선택에 대한 체계적 검증이라는 네 가지 장점을 제공한다. 이는 기존의 파라메트릭 혹은 신경망 기반 PDF 추정과 비교했을 때, 특히 데이터가 제한적이거나 노이즈가 큰 경우에 더욱 강건한 결과를 도출한다는 점에서 의미가 크다.