베이지안 기호 회귀로 누락된 물리 찾기

초록

본 논문은 유니버설 미분방정식(UDE)에서 신경망이 학습한 숨은 항을 베이지안 기호 회귀(RJMCMC)로 후처리하여, 구조적 불확실성을 정량화하고 실험 설계가 모델 불확실성을 감소시키는 방법을 제시한다. 로트카‑볼테라와 연속식 배치 바이오리액터 사례를 통해 방법론을 검증한다.

상세 분석

이 연구는 (bio)process 시스템에서 물리·화학·생물학 법칙이 불완전하게 알려진 상황을 해결하기 위해 두 단계의 모델링 전략을 결합한다. 첫 번째 단계는 Universal Differential Equations(UDE) 프레임워크를 이용해 신경망을 미분방정식에 삽입함으로써, 관측 데이터로부터 누락된 동역학 항을 비선형 함수 형태로 학습한다. 그러나 신경망 자체는 블랙박스 특성을 가지고 있어 과학적 해석에 한계가 있다. 이를 보완하기 위해 저자들은 베이지안 기호 회귀를 도입한다. 기존의 유전 알고리즘 기반 기호 회귀는 최적화된 단일 식을 제공하지만, 식 구조에 대한 불확실성을 정량화하지 못한다. 반면, Reversible Jump Markov Chain Monte Carlo(RJMCMC)를 활용한 베이지안 접근은 표현식 트리를 확률적 샘플링 공간으로 정의하고, 사전 분포를 통해 트리 깊이·연산자·상수에 대한 규제를 가한다. 이때 연산자 집합에는 기본 산술 연산과 선형 변환 연산자 lt(x,a,b)=ax+b가 포함되어, 상수를 트리 구조 안에 자연스럽게 삽입한다. 연속 파라미터(σ, a, b)는 NUTS와 같은 고효율 샘플러로 업데이트하고, 트리 구조 자체는 RJMCMC의 차원 이동 제안을 통해 탐색한다. 이렇게 얻어진 사후 분포는 각 후보 식이 신경망 출력과 얼마나 일치하는지를 확률적으로 나타내며, 식의 복잡도와 데이터 적합도 사이의 트레이드오프를 자동으로 반영한다. 로트카‑볼테라 사례에서는 10개의 사후 샘플이 제시되었으며, 대부분이 실제 상호작용 항 -0.9 x₁x₂와 0.8 x₁x₂에 근접하지만, 상수 없이도 충분히 설명 가능한 형태가 다수 존재함을 보여준다. 이는 베이지안 기법이 “정답”이 아닌 “가능한 정답 집합”을 제공함을 의미한다. 이어지는 연속식 배치 바이오리액터 사례에서는 실험 설계(샘플링 시점·노이즈 수준)를 조정함으로써 사후 분산이 현저히 감소함을 확인한다. 즉, 데이터 수집 전략이 모델 불확실성 감소에 직접적인 영향을 미친다. 전체적으로 이 논문은 신경망 기반 UDE와 베이지안 기호 회귀를 결합해, 물리적 해석 가능성과 불확실성 정량화를 동시에 달성한 점이 혁신적이며, 특히 제약·바이오공정 분야에서 실험 설계와 모델 검증을 통합하는 새로운 패러다임을 제시한다.