계산 집약적 비선형 회귀를 위한 통계적 대리모델과 기후 민감도 추정

본 논문은 “계산 집약적 비선형 회귀”라는 통계적·수치적 난제를 해결하기 위해, 복잡한 기후 모델을 직접 실행하지 않고도 파라미터 추정을 수행할 수 있는 새로운 방법론을 제시한다. 연구 배경은 지구 기후 시스템의 핵심 지표인 평형 기후 민감도(S)를 포함한 여러 기후 파라미터를 관측 데이터와 모델 시뮬레이션을 결합해 추정하고자 하는데 있다. 전통적인 비선형 회귀는 Y = f(θ) + ε 형태의 모델을 가정하고, f(θ)를 반복적으로 평가해 최대우도 혹은 베이지안 추정을 수행한다. 그러나 기후 모델, 특히 AOGCM이나 MIT 2D와 같은 물리 기반 모델은 파라미터마다 수십 시간에서 수개월에 이르는 연산 비용을 요구한다. 따라서 직접적인 최적화는 현실적으로 불가능하다. 이를 해결하기 위해 저자들은 ‘통계적 대리모델(Statistical surrogate)’을 구축한다. 먼저, 파라미터 공간 Θ에서 306개의 θ 샘플을 선택한다. 초기 설계는 팩토리얼 디자인으로 전 범위에 고르게 분포시키고, 이후 높은 가능도 영역을 집중 탐색한다. 각 θ에 대해 MIT 2D 모델을 실행해 50년 시뮬레이션을 수행하고, 출력은 세 가지 관측 변수(해양 심층 온도 추세, 상층 대기 온도 변화, 지표면 온도 변화) 형태로 변환한다. 각 출력은 시간·위치·파라미터 차원을 갖는 3차원 배열로 정리되며, 이를 벡터화해 f 라는 기호로 표기한다. 다변량 가우시안 프로세스(GP)를 이용해 f와 θ 사이의 관계를 확률적 모델링한다. GP는 평균 µ와 공분산 Σ_θ를 갖으며, Σ_θ는 파라미터 차원 C_Θ, 공간 차원 C_Z, 시간 차원 C_T의 텐서곱 형태로 구성된다. C_Θ는 거듭제곱 지수 커널 exp(−3∑ η_i|θ_i−θ'_i|^{p_i}) 로 정의되어, 각 파라미터의 스케일과 비선형 상관을 반영한다. C_Z와 C_T도 동일한 형태의 파워-지수 커널을 사용한다. 모델 내부 변동성(ensemble variability)과 관측 오차를 별도로 모델링한다. 네 개의 초기 조건(ensemble member)으로 동일 θ에 대해 시뮬레이션을 반복해 얻은 변동성을 Γ라는 공분산 행렬로 추정한다. Γ는 웨이브렛 기반 다중해상도 분석을 통해 정규화된 형태로 얻으며, I⊗Γ 형태로 전체 공분산에 추가된다. 최종 공분산은 Σ_θ = σ²(C_Θ⊗C_Z⊗C_T) + ω²(I⊗Γ) 로 표현된다. 대리모델의 사후 평균 ˜f(θ)와 사후 공분산을 이용해 원래 회귀식에 대리오차 E_θ를 포함한다. 즉, 관측 모델은 Y = ˜f(θ) + E_θ + ε 로 바뀌며, 여기서 E_θ∼N(0, Σ_θ)이다. 이렇게 하면 대리모델의 불확실성이 추정 과정에 직접 반영된다. 최대우도 추정은 수정된 로그우도 L(θ) = −½(Y−˜f(θ))'W^{-1}(Y−˜f(θ)) −½ log|W+Σ_θ| 형태로 수행된다. 여기서 W는 관측 오차 공분산이다. 최적화는 전통적인 뉴턴‑라프슨 혹은 quasi‑Newton 방법으로 수행되며, 각 반복 단계에서 ˜f(θ)와 Σ_θ만을 계산하면 되므로 연산 비용이 크게 감소한다. 실험 결과, S(기후 민감도), K_v(해양 열확산), Fₐₑᵣ(에어로졸 강제)에 대한 사후 분포가 얻어졌다. 특히 S는 비대칭(스키) 형태를 보이며, 평탄한 사전(Flat prior)과 전문가 사전(Expert prior) 사이에서 차이가 크게 나타난다. 이는 관측 데이터가 S에 대해 강한 비선형 반응을 보이기 때문이며, 물리적 메커니즘(대기·해양 피드백)과 사전 선택이 결과에 미치는 영향을 논의한다. 또한, 대리모델을 사용하지 않은 경우와 비교했을 때, 파라미터 추정의 표준 오차가 30~50% 감소하고, 계산 시간은 수십 시간에서 수분 수준으로 단축되었다. 논문은 기존 베이지안 캘리브레이션(예: Kennedy & O’Hagan, 2001)과 비교해 두 가지 장점을 강조한다. 첫째, 완전 베이지안 방법은 사전·후행 분포를 모두 샘플링해야 하므로 MCMC 비용이 매우 크다. 반면, 제안된 방법은 GP 대리모델을 한 번 학습하면, 이후 최대우도 단계에서 빠르게 파라미터를 탐색할 수 있다. 둘째, 대리모델의 불확실성을 명시적으로 모델에 포함시켜, 파라미터 신뢰구간이 과소평가되지 않도록 보장한다. 결론적으로, 이 연구는 계산 비용이 높은 비선형 모델을 다루는 분야(기후 과학, 환경 모델링, 공학 시뮬레이션 등)에서 실용적인 파라미터 추정 프레임워크를 제공한다. 대리모델 구축과 불확실성 통합이라는 두 축을 통해, 복잡한 물리 모델과 관측 데이터를 효과적으로 결합하고, 중요한 기후 파라미터에 대한 정량적 불확실성 평가를 가능하게 한다. 향후 연구에서는 다중 출력 GP의 비선형 커널 확장, 적응형 샘플링 전략, 그리고 완전 베이지안 접근과의 하이브리드 결합을 통해 더욱 정교한 캘리브레이션을 목표로 할 수 있다.