얕은 PINN과 레벤버그마르쿠르트 알고리즘

초록

본 논문은 두 개의 은닉층만을 갖는 얕은 물리‑정보 신경망(PINN)을 비선형 최소제곱 형태로 재구성하고, 레벤버그‑마르쿠르트(LM) 알고리즘을 이용해 효율적으로 최적화한다. Burgers, Schrödinger, Allen‑Cahn, 3‑D Bratu 등 네 가지 비선형 PDE에 대해 전방 및 역문제 모두를 실험했으며, LM이 BFGS 대비 수렴 속도, 정확도, 최종 손실 모두에서 현저히 우수함을 보였다. 분석적인 네트워크 미분식과 Jacobian 행렬의 정확한 계산이 핵심이며, 얕은 구조와 2차 최적화가 깊은 네트워크 없이도 높은 해석 정확도를 제공함을 입증한다.

상세 분석

이 연구는 PINN을 전통적인 손실 최소화 문제가 아니라 비선형 방정식 시스템 F(W)=0 형태로 전환함으로써, LM 알고리즘 적용의 이론적 기반을 마련한다. LM은 Gauss‑Newton과 경사 하강을 혼합한 2차 최적화 기법으로, Jacobian J와 잔차 r을 이용해 파라미터 업데이트 ΔW = -(JᵀJ+λI)⁻¹Jᵀr을 수행한다. 여기서 핵심은 J를 정확히 계산하는 것이며, 저자는 네트워크 출력 ũ와 그 도함수(ũ_t, ũ_x, ũ_xx 등)를 수식적으로 전개해 자동 미분이 아닌 직접 미분으로 J를 구성한다. 이는 메모리 사용량을 최소화하고, 특히 얕은 네트워크(두 은닉층, 파라미터 수 수백)에서 효율성을 크게 높인다.

네트워크 구조는 입력