대규모 물리 시스템을 위한 베이지안 보간 신경망

초록

베이지안 보간 신경망(B‑INN)은 고차 보간 이론과 텐서 분해, 교대 방향 알고리즘을 결합해 대규모 물리 시뮬레이션에서 선형 O(N) 복잡도로 베이지안 추론을 수행한다. 함수 공간이 가우시안 프로세스의 부분집합임을 증명하고, 실험을 통해 기존 베이지안 신경망·가우시안 프로세스 대비 20배에서 10 000배 빠른 예측과 신뢰성 있는 불확실성 추정이 가능함을 보였다.

상세 분석

본 논문은 기존 베이지안 신경망(BNN)과 가우시안 프로세스(GP)의 확장성 한계를 극복하기 위해 Interpolating Neural Network(INN)의 구조를 베이지안 프레임워크에 통합한 B‑INN을 제안한다. 핵심 아이디어는 INN이 1차원 보간 함수 ϕ_j(x)와 가중치 w_j의 선형 결합 형태를 갖는다는 점을 이용해, 가중치를 확률 변수로 두고 베이지안 선형 회귀(BLR)와 동일한 폐쇄형 해를 얻는 것이다. 고차원 입력에 대해서는 CP 텐서 분해를 적용해 다차원 보간을 M개의 1차원 보간 함수들의 곱으로 표현하고, 각 차원을 교대로 고정한 뒤 BLR 형태로 업데이트한다(교대 최소제곱(ALS)와 유사). 이 과정에서 설계 행렬 X_d는 g(i)_d ⊗ Φ(i)_d 의 크로네커 곱으로 구성되며, 사전 가우시안 분포 N(μ_w,σ_w²I)와 관측 잡음 N(0,σ_n²) 를 가정하면 사후 가중치 분포와 예측 분포가 모두 가우시안으로 유지된다.

이론적으로 B‑INN의 함수 공간이 GP의 커널 공간의 부분집합임을 증명함으로써, B‑INN이 GP와 동일한 비선형 표현력을 가지면서도 학습·예측 복잡도가 O(N) 으로 선형 스케일링한다는 점을 강조한다. 실험에서는 1D·2D·3D 물리 모델(예: 파동 전파, 열전도, 유체 흐름)과 대규모 산업 시뮬레이션 데이터를 사용해 B‑INN이 BNN·GP 대비 20배~10 000배 빠른 학습·예측 속도를 보였으며, 불확실성 캘리브레이션(예: 신뢰 구간 커버리지)에서도 경쟁력을 유지한다. 또한, 텐서 모드 M 과 그리드 포인트 J_d 를 적절히 선택하면 메모리 사용량이 선형적으로 증가해 GPU 다중 코어 병렬화 시 P 배속 향상이 가능함을 실증한다.

한편, B‑INN은 보간 함수 ϕ_j 를 물리적 지식에 맞게 설계할 수 있어 해석 가능성이 높으며, 고차원 문제에서도 CP 텐서 분해의 저차원 근사 특성 덕분에 파라미터 수가 O(M·∑_d J_d) 로 제한된다. 이는 전통적인 MLP이나 KAN이 파라미터 수 O(M·J²) 에 비해 훨씬 효율적인 구조다. 논문은 또한 베이지안 추론 과정에서 발생할 수 있는 과적합을 방지하기 위해 사전 분산 σ_w² 와 관측 잡음 σ_n² 를 경험적 베이즈 방법으로 추정하는 절차를 제시한다.

전체적으로 B‑INN은 고차원·대규모 데이터 환경에서 베이지안 불확실성 추정과 빠른 예측을 동시에 만족시키는 새로운 서러게이트 모델링 패러다임을 제공한다.