고차원 확률 함수의 저랭크 분리표현 기반 대리모델 구축 및 베이지안 추론 적용

본 논문은 저랭크 분리표현을 이용한 비침투식 대리모델을 제안한다. 정규화된 교대 최소제곱 회귀와 Tikhonov 정규화를 결합하고, 교란 기반 오류 지표로 최적 모델 복잡도를 자동 선택한다. 벡터값 해를 직접 근사함으로써 차원에 선형적으로 의존하는 샘플 수와 차원에 2차 비례하는 구축 비용을 달성한다. 41차원 타원형 PDE와 21차원 공동 흐름 사례에서 MCMC 기반 베이지안 추론의 계산량을 크게 감소시켰다.

저자: AbdoulAhad Validi

고차원 확률 함수의 저랭크 분리표현 기반 대리모델 구축 및 베이지안 추론 적용
본 논문은 고차원 확률 함수, 특히 PDE·ODE와 같은 복잡한 물리 모델의 전방 해를 효율적으로 근사하기 위한 비침투식 대리모델링 프레임워크를 제시한다. 핵심 아이디어는 저랭크 분리표현(separated representation, SR)을 이용해 다변량 함수를 일련의 일변량 함수 곱으로 분해하는 것이다. 기존 연구는 주로 스칼라값 해에 초점을 맞추었지만, 저자는 물리 변수 ξ 에 대한 연속해를 벡터 u₀(ξ) 로 직접 다루어, 벡터 크기 n 에 비례하는 비용 절감 효과를 얻는다. 모델 구성 절차는 다음과 같다. 먼저, 입력 랜덤 변수 y = (y₁,…,y_d) 와 물리 변수 ξ 에 대한 샘플 {(y^{(j)}, ξ^{(j)})}_{j=1}^N 을 생성한다. 목표 함수 u(ξ, y) 는 식 (1)과 같이 r개의 분리 항으로 근사된다. 각 항은 정규화 상수 s_l 와 일변량 함수 u_{l,0}(ξ) · ∏_{i=1}^d u_{l,i}(y_i) 의 곱으로 구성된다. 여기서 r(분리 순위)와 M(다항 차수)는 사전에 지정되지 않으며, 오류 지표를 통해 자동으로 결정된다. 일변량 함수 u_{l,i}(y_i) 는 스펙트럴 다항식(레전드르, 헤르미트 등) 기반 전개 ∑_{α=0}^M c_{l,α,i} ψ_α(y_i) 로 표현한다. 이를 이용해 전체 모델을 선형 회귀 형태로 변환하면, 데이터 행렬 A_i 와 계수 벡터 c_i 를 이용한 최소제곱 문제(식 16)가 도출된다. 고차원에서 직접 비선형 최적화를 수행하면 계산량이 급증하므로, 교대 최소제곱(ALS) 알고리즘을 적용한다. ALS는 각 차원 i 에 대해 다른 차원의 현재 추정값을 고정하고, 일변량 회귀를 반복 수행한다. ALS는 과적합 및 수치 불안정성에 취약한데, 이를 완화하기 위해 Tikhonov 정규화(식 22)를 도입한다. 정규화 항 ‖L c‖₂² 는 해의 매끄러움을 강제하며, L은 그래디언트를 근사하는 ‘roughening matrix’이다. 정규화 파라미터 λ 은 교란 기반 오류 지표를 통해 자동 선택된다. 이 지표는 현재 모델의 잔차와 정규화 항을 비교해, 모델 복잡도가 과도하게 증가하면 페널티를 부여한다. 따라서 r과 M을 탐색하면서 최적 복합도를 자동으로 결정한다. 복잡도 측면에서, 필요한 샘플 수 N 은 차원 d 에 선형적으로 증가한다( N ∝ d ). 모델 구축 비용은 데이터 행렬 구성 및 ALS 반복에 의해 O(d²) 에 비례한다. 이는 전통적인 다항 혼돈(PC), Stochastic Galerkin, Collocation 등과 달리 차원 저주를 크게 완화한다. 또한, 벡터값 SR은 동일한 분리 순위 r 에 대해 스칼라 SR 대비 n 배(벡터 길이)만큼 연산을 절감한다. 실험에서는 세 가지 사례를 다룬다. 첫 번째는 인공 함수에 대한 검증으로, 알려진 해와 비교해 높은 정확도와 빠른 수렴을 확인했다. 두 번째는 41차원 타원형 PDE(확산 계수에 41개의 불확실성 파라미터)이며, 전통적인 MCMC는 수십만 번의 전방 시뮬레이션이 필요했지만, 제안된 대리모델은 약 10³ ~ 10⁴개의 샘플만으로 충분히 정확한 사후 분포를 재현했다. MCMC 실행 시간은 약 80 % 감소하였다. 세 번째는 21차원 공동 흐름 문제(레오나르도 유동)로, 비선형 Navier‑Stokes 방정식에 21개의 파라미터 불확실성을 부여하였다. 여기서도 대리모델은 10³ ~ 10⁴개의 전방 해만으로 MCMC를 수행했으며, 사후 평균과 분산이 직접 전방 시뮬레이션 결과와 거의 일치하였다. 결론적으로, 저랭크 분리표현 기반 비침투식 대리모델은 고차원 확률 PDE/ODE 문제에서 베이지안 추론을 위한 MCMC 비용을 크게 낮춘다. 정규화와 교란 기반 오류 지표를 통한 자동 모델 선택 메커니즘은 사용자가 복잡도를 사전에 지정할 필요 없이 안정적인 근사를 제공한다. 향후 연구에서는 비정규 입력 분포, 다중 물리 현상 결합, 실시간 데이터 동화와의 통합, 그리고 GPU 기반 고성능 구현 등을 통해 적용 범위를 확대할 수 있을 것이다.

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기