데이터 기반 경험적 가우시안 프로세스

초록

본 논문은 기존의 고정된 커널에 의존하는 가우시안 프로세스(GP) 모델의 한계를 극복하고자, 과거에 수집된 다수의 독립 데이터셋으로부터 평균과 공분산 함수를 직접 추정하는 ‘경험적 GP(Empirical GP)’ 프레임워크를 제안한다. 이 방법은 최대우도 추정을 기반으로 EM 알고리즘을 도입해 이산·연속 관측을 모두 처리할 수 있으며, 이론적으로는 실제 데이터 생성 과정을 KL‑다이버전스 기준으로 가장 가깝게 근사하는 GP로 수렴함을 증명한다. 실험에서는 학습 곡선 외삽과 시계열 예측에서 기존 커널 기반 GP와 최신 딥러닝 모델을 능가한다.

상세 분석

이 논문은 가우시안 프로세스(GP)의 핵심인 커널 선택 문제를 근본적으로 재구성한다. 전통적인 GP는 사전에 정의된 RBF, Matérn, Periodic 등 제한된 커널군 중 하나를 선택하고, 하이퍼파라미터를 marginal likelihood로 최적화한다. 그러나 이러한 접근은 데이터의 복잡한 비정상성, 이질성, 도메인 특화 패턴을 포착하기에 충분히 유연하지 못한다. 저자들은 “역사적 관측”이라 부르는 다수의 독립적인 함수 샘플(예: 이전 실험의 학습 곡선)들을 실제 사전 분포의 샘플로 간주하고, 이들로부터 평균 m_S(x)와 공분산 k_S(x,x′)를 직접 추정한다. 식 (1)에서 보듯, 평균은 샘플들의 단순 평균, 공분산은 중심화된 함수들의 외적 합으로 정의되며, 이는 자동으로 양의 반정합성을 만족한다.

이론적 기여는 두 가지 주요 정리로 요약된다. 첫째, 연속적인 샘플 경로가 충분히 많을 경우 (S→∞) 경험적 GP는 실제 평균·공분산을 가진 GP로 수렴한다는 수렴 정리(Proposition 1). 여기서는 Dudley entropy integral 조건을 가정해 연속 커널의 복잡도를 제어한다. 둘째, 경험적 GP가 KL‑다이버전스 관점에서 실제 데이터 생성 과정을 가장 잘 근사하는 가우시안 분포임을 보인다(Proposition 2). 이는 “베스트 가우시안 근사”라는 최적성 보장을 제공한다.

실제 데이터는 연속적인 함수가 아니라 이산적인 관측점 집합으로 제공된다. 저자들은 두 가지 상황을 다룬다. (1) 관측점이 충분히 촘촘히 존재해 선형 보간(I)으로 연속 함수를 재구성할 수 있는 경우, 직접적인 경험적 공분산 계산이 가능하고, SVD 기반 차원 축소를 통해 O(S) → O(M) 복잡도로 압축한다. (2) 관측점이 희소하고 불규칙한 경우, 고정된 레퍼런스 그리드 Z를 도입하고, 베이스 커널 k_base를 이용해 관측값을 잠재 변수 u에 투사한다. 이때 각 작업 i에 대한 가중치 행렬 W_i = k_base(X_i,Z)k_base(Z,Z)^{-1}를 정의하고, EM 알고리즘을 통해 u의 평균 μ와 공분산 Σ를 추정한다. E‑step에서는 관측 y_i와 현재 파라미터(μ^{(t)}, Σ^{(t)})를 이용해 u_i의 사후 평균 m_i와 공분산 C_i를 계산하고, M‑step에서는 모든 작업의 충분통계량을 평균화해 μ와 Σ를 업데이트한다. 복잡도는 주로 E‑step의 O(S(N_i M^2 + N_i^3))에 의해 지배되며, Woodbury identity를 활용하면 N_i > M 상황에서도 효율성을 유지한다.

외삽 시 과도한 확신 문제를 해결하기 위해, 베이스 모델(예: RBF)과 경험적 잔차(δμ, δΣ)를 분리한다. 새로운 입력 x에 대해서는 베이스 평균 μ_base(x)와 공분산 k_base(x,x′)에 잔차를 가중치 W_x를 통해 보강한다(식 2). 이렇게 하면 레퍼런스 그리드와 멀어질수록 모델은 자연스럽게 베이스 커널로 회귀해 불확실성을 적절히 유지한다.

실험에서는 (a) 학습 곡선 외삽, (b) 시계열 예측 두 벤치마크를 사용한다. 학습 곡선 데이터는 초기 급격한 향상과 포화 단계라는 공통 패턴을 가지고 있는데, 경험적 GP는 이러한 비정상적 형태를 자동으로 포착해 Transformer 기반 베이스라인보다 일관되게 낮은 RMSE를 기록한다. 시계열 실험에서는 기존 GP(핸드크래프트 커널)와 딥러닝(Temporal Convolution, LSTM 등) 모델을 모두 앞서며, 특히 장기 예측 구간에서 베이스 커널만 사용했을 때보다 훨씬 안정적인 불확실성 추정이 가능했다.

전체적으로 이 논문은 “커널을 학습한다”는 전통적 메타러닝 접근을 넘어, 실제 데이터에서 직접 공분산 구조를 추정함으로써 비정형, 비정상적 현상을 자연스럽게 모델링한다는 점에서 혁신적이다. EM 기반의 폐쇄형 업데이트와 SVD 압축, 잔차 보강 기법은 실용적인 확장성을 제공하며, 이론적 수렴 보장은 방법론적 신뢰성을 높인다. 향후 다중 도메인 메타러닝, 베이지안 최적화, 그리고 대규모 시계열 분석 등에 폭넓게 적용될 여지가 크다.