다중과제 가우시안 프로세스로 희소 데이터 엔지니어링 모델링

초록

본 논문은 고비용 고정밀 데이터와 저비용 저정밀 데이터를 동시에 활용하는 엔지니어링 문제에 대해, 다중과제 가우시안 프로세스(MTGP) 프레임워크를 제안한다. 핵심은 코어고날리제이션 기반의 다중출력 커널을 이용해 과제 간 상관관계를 정량화하고, 이를 통해 고정밀 데이터 요구량을 감소시키면서 예측 정확도와 불확실성 추정 능력을 향상시키는 것이다. Forrester 함수 벤치마크, 3차원 타원형 공극 모델링, 마찰교반 용접(FSW) 세 가지 사례 연구를 통해 제안 방법의 효율성과 확장성을 검증하였다.

상세 분석

이 논문은 엔지니어링 설계와 과학적 탐구에서 흔히 마주치는 “고정밀 데이터는 비용이 많이 들고 희소하지만, 저정밀 데이터는 풍부하다”는 상황을 다중과제 가우시안 프로세스(MTGP)라는 베이지안 비모수 모델로 해결하고자 한다. 기존 단일과제 GP는 입력 공간의 연관성만을 포착하지만, 다중과제 상황에서는 출력(과제) 간의 상호작용을 무시하면 데이터 효율성이 크게 떨어진다. 저자는 코어고날리제이션 모델, 특히 Linear Model of Coregionalization(LMC)과 Semiparametric Latent Factor Model(SLFM)을 기반으로 한 다중출력 커널을 설계한다. LMC는 Q개의 잠재 커널 k_q와 각각에 대응하는 양의 준정부행렬 B^(q) 를 곱해 전체 커널 K(x,x′)=∑_q B^(q)⊗k_q(x,x′) 로 구성한다. 여기서 B^(q)=W^(q)W^(q)ᵀ+diag(γ^(q)) 형태의 저랭크 분해를 통해 파라미터 수를 제어하고, SLFM은 B^(q)를 순위 1 외적 w_q w_qᵀ 로 제한해 D가 큰 경우에도 학습이 가능하도록 한다. 이러한 구조는 “공유 잠재 요인”과 “과제별 특이 요인”을 명시적으로 구분함으로써, 물리적 메커니즘이 여러 과제에 걸쳐 어떻게 전이되는지를 정량화한다.

추론 단계에서는 벡터화된 관측 y=vec(Y) 를 다루며, 잡음 공분산 Σ⊗I_N 을 포함한 전체 공분산 K_θ를 구성한다. 로그 주변가능도 최적화를 통해 커널 하이퍼파라미터와 코어고날리제이션 행렬을 학습하고, Adam 기반의 변분 최적화로 대규모 데이터에도 확장성을 확보한다. 저자는 또한 자동코리게이션 효과(autokrige ability)를 언급하며, 특정 조건(노이즈가 없고 동질 데이터)에서는 다중과제 모델이 독립 모델과 동일한 예측을 보일 수 있음을 경고한다. 이는 모델 설계 시 과제 간 상관관계가 충분히 강해야 함을 의미한다.

실험은 세 가지 단계로 진행된다. 첫 번째 Forrester 함수 벤치마크에서는 두 과제(주 과제와 보조 과제)를 정의하고, Pearson 상관계수 r=0.89, 0.53, 0.33의 세 수준에서 데이터 양을 520점으로 제한한다. 결과는 고상관·고데이터 상황에서 MTGP가 단일 GP 대비 평균 제곱오차(MSE)를 3050% 감소시켰으며, 상관이 낮을 경우 이득이 급격히 감소함을 보여준다. 두 번째 3D 타원형 공극 모델링에서는 저비용 탄성 해석을 보조 과제로, 고비용 플라스틱 응력 해석을 주 과제로 설정한다. MTGP는 동일한 플라스틱 응력 예측 정확도를 2배 적은 고정밀 시뮬레이션으로 달성하면서, 전체 계산 비용을 약 60% 절감했다. 마지막으로 마찰교반 용접(FSW) 사례에서는 실험적으로 측정된 변형 데이터와 저비용 온도 시뮬레이션을 결합한다. 여기서 MTGP는 변형 예측 RMSE를 0.12mm에서 0.07mm로 감소시켰고, 비용 대비 효율성을 크게 향상시켰다.

논문의 주요 기여는 다음과 같다. (1) 엔지니어링 멀티피델리티 문제에 특화된 MTGP 프레임워크를 제시하고, 코어고날리제이션 기반 커널 설계와 저랭크 분해를 통해 파라미터 효율성을 확보하였다. (2) 변분/Adam 최적화를 이용한 스케일러블 학습 파이프라인을 구현해 중간 규모(N≈数百, D≈数十) 데이터셋에서도 실시간 학습이 가능하도록 했다. (3) 세 가지 실증 사례를 통해 고정밀 데이터 요구량을 현저히 감소시키면서도 예측 정확도와 불확실성 정량화 능력을 유지함을 입증했다. 한계점으로는(가) 코어고날리제이션 행렬의 초기값 선택이 학습 수렴에 민감하고, (나) 과제 간 입력 공간이 크게 다를 경우 입력 정렬(alignement) 메커니즘이 추가로 필요하다는 점을 언급한다. 향후 연구에서는 비선형 입력 매핑을 포함한 이질적 입력 도메인 처리와, 대규모 데이터에 대한 완전한 희소 변분 근사(SVGP) 통합을 목표로 한다.