베이지안 트리 가우시안 프로세스 모델과 로켓 부스터 시뮬레이션

본 논문은 NASA의 로켓 부스터 설계에 사용되는 복잡한 유체역학 시뮬레이터 데이터를 분석하기 위해, 비정상성을 효과적으로 모델링할 수 있는 새로운 통계적 방법론을 제시한다. 전통적인 컴퓨터 실험(emulation)에서는 입력‑출력 관계를 정적 가우시안 프로세스(GP)로 근사하는 것이 일반적이다. 그러나 정적 GP는 (1) O(N³) 계산 복잡도로 인해 수천~수만 개의 시뮬레이션 결과를 다루기 어렵고, (2) 전체 입력 공간에 동일한 공분산 구조를 적용하는 정합성(stationarity) 가정으로 인해 급격한 물리적 전이(예: 서브소닉‑초음속 경계)를 포착하지 못하며, (3) nugget 파라미터가 전역적으로 동일하게 적용돼 지역별 이분산성을 반영하지 못한다는 한계가 있다. 이를 해결하기 위해 저자들은 베이지안 트리 파티셔닝과 정적 GP를 결합한 ‘트리 가우시안 프로세스(tGP)’ 모델을 개발한다. 입력 공간을 재귀적으로 이진 분할하는 트리를 구성하고, 각 리프 노드에 독립적인 정적 GP를 할당한다. 트리 구조 자체는 베이지안 모델 평균화의 일환으로 사후 확률에 포함되며, reversible‑jump MCMC를 이용해 트리 성장·축소와 GP 하이퍼파라미터를 동시에 샘플링한다. 이 과정에서 각 리프 노드마다 고유의 길이 스케일(d), 변동성(σ²), nugget(g) 등을 추정함으로써, 지역별 비정상성 및 이분산성을 자연스럽게 모델링한다. 논문은 먼저 로켓 부스터 시뮬레이터(LGBB)의 데이터 특성을 상세히 설명한다. 입력 변수는 Mach(속도), α(공격각), β(측면각)이며, 총 3041개의 시뮬레이션이 세 개의 격자(거친 격자와 두 개의 세밀 격자)에서 수행되었다. 데이터는 서브소닉‑초음속 전이에서 급격한 리프트(force) 변화를 보이며, 특정 영역에서는 수치적 수렴 실패에 따른 이상치가 존재한다. 이러한 특성은 정적 GP가 제공하는 균일한 불확실성 추정으로는 충분히 설명되지 않는다. 트리 GP 모델을 적용한 결과, (1) 맥 1 주변의 급격한 리프트 리지는 각 리프 노드가 별도의 공분산 파라미터를 갖게 됨으로써 매끄럽게 포착된다. (2) β가 다른 경우에도 트리 구조가 자동으로 유사한 패턴을 공유하도록 하여, 불필요한 파라미터 중복을 방지한다. (3) 수치적 불안정성이 의심되는 고각도·저속 영역에서는 예측 분산이 크게 증가해, 모델이 해당 영역에 대한 신뢰도가 낮음을 명시한다. 이는 엔지니어가 설계 위험을 사전에 인지하고, 추가 시뮬레이션이나 실험을 계획하는 데 실질적인 도움을 준다. 또한, 저자들은 기존 정적 GP와 비교하여 예측 정확도(RMSE)와 로그우도(log‑likelihood)에서 우수한 성능을 보였으며, 모델 선택 기준인 DIC(Deviance Information Criterion)에서도 트리 GP가 더 낮은 값을 기록했다. 계산 효율성 측면에서는 전체 데이터에 대해 직접 정적 GP를 적용했을 때의 O(N³) 연산을 피하고, 각 리프 노드당 평균 150~200개의 데이터만을 처리함으로써 실행 시간을 수십 배 단축하였다. 논문의 마지막 부분에서는 트리 GP 모델의 일반화 가능성을 논의한다. 제시된 방법은 고차원 입력, 다중 출력, 그리고 다른 분야(예: 환경 모니터링, 생물학적 시뮬레이션)에서도 적용 가능하며, R 패키지 ‘tgp’를 통해 손쉽게 구현할 수 있다. 또한, 트리 구조가 연속성을 보장하지 않음에도 불구하고, 베이지안 평균화 과정에서 평균 예측 함수는 대부분 매끄럽게 나타나며, 필요 시 불연속성을 명시적으로 모델링할 수도 있다. 결론적으로, 베이지안 트리 GP는 비정상적·이분산적·대규모 컴퓨터 실험 데이터를 다루는 데 있어, 예측 정확도와 불확실성 정량화, 계산 효율성을 동시에 만족시키는 강력한 통계적 도구임을 입증한다.