데이터 통합 신경망으로 PDE 해결

초록

본 논문은 물리 정보와 소스·초기·경계 데이터 등을 네트워크 구조에 직접 삽입하는 이중‑브랜치 모델(DataInNet)을 제안한다. 데이터 통합 서브넷이 알려진 물리 정보를 처리하고, 보조 완전연결 서브넷이 잔여 물리 잔차를 학습함으로써 해 탐색 공간을 크게 축소하고, 고주파 PDE에서도 10⁻⁵ 수준의 상대 L² 오차를 달성한다.

상세 분석

DataInNet은 기존 PINN(PINNs) 방식의 근본적인 한계를 극복하기 위해 “데이터를 손실함수에 제약으로 넣는” 대신 네트워크 아키텍처 자체에 물리 데이터를 통합한다는 혁신적인 설계를 도입한다. 구체적으로 두 개의 서브넷으로 구성되는데, 첫 번째인 데이터 통합 신경망(Data‑Integration NN)은 소스 항, 초기 조건, 경계 조건 등 다양한 물리 데이터를 각각 전용 브랜치(Qₙ,i)로 받아들여 입력 특징(Hₙ₋₁)과 곱셈(⊙)을 통해 교차 특징을 생성한다. 이때 각 브랜치는 데이터 ℏᵢ(x)와 학습 가능한 가중치 αᵢ를 통해 스케일을 조정하고, 필요에 따라 브랜치를 제거함으로써 문제에 맞는 유연성을 제공한다. 두 번째 서브넷은 전통적인 완전 연결 네트워크로, 데이터 통합 서브넷이 설명하지 못하는 잔여 물리적 잔차를 학습한다. 두 서브넷의 출력은 단순 합(u*ₙₙ = uₙₙ + u_dₙₙ) 형태로 결합되어 최종 해를 만든다.

이 구조가 갖는 주요 장점은 다음과 같다. 첫째, 물리적으로 불가능한 함수 클래스를 아키텍처 차원에서 배제함으로써 최적화가 제한된 해 공간 내에서 진행되어 수렴 속도가 빨라지고 전역 최소점에 도달할 확률이 높아진다. 둘째, 데이터가 네트워크 내부에서 직접 활용되므로 손실 함수에 물리 제약을 가중치 τ 로 조정하는 번거로움이 사라지고, 하이퍼파라미터 튜닝 부담이 감소한다. 셋째, 고주파 성분을 포함한 PDE(예: Helmholtz 방정식, 고주파 Poisson)에서도 스펙트럴 바이어스(주파수 편향)를 완화한다. 이는 데이터 통합 브랜치가 고주파 정보를 사전에 제공함으로써 네트워크가 초기부터 해당 스펙트럼을 학습하도록 유도하기 때문이다.

실험에서는 1차원 열 방정식, 2차원 Poisson 방정식(정규 및 L‑shape 도메인), 그리고 고주파 Helmholtz 방정식에 대해 DataInNet을 평가하였다. 특히 초기 조건을 전체 시공간 영역에 확장하는 “Global‑Input” 전략이 “Local‑Input” 전략보다 절대 오차와 상대 L² 오차에서 현저히 우수함을 보였다. Poisson 실험에서는 전통적인 PINN이 급격한 피크를 놓치는 반면, DataInNet은 최대 절대 오차 1.77×10⁻³, 상대 L² 오차 4.03×10⁻³ 수준을 기록하였다. 또한 모듈 수와 활성화 함수(sin, cos, tanh, sigmoid) 변화에 따른 민감도 분석을 통해 sin 활성화가 가장 안정적인 성능을 제공함을 확인했다.

하지만 몇 가지 한계도 존재한다. 데이터 정규화 파라미터 K* 를 수동으로 설정해야 하며, 데이터 스케일이 크게 차이날 경우 그래디언트 소실 문제가 발생할 수 있다. 또한 다중 브랜치 구조는 파라미터 수가 급증해 메모리 요구량이 커지고, 복잡한 도메인(예: 3차원 비정형 메쉬)에서는 브랜치 설계와 데이터 매핑이 추가적인 구현 부담을 만든다. 마지막으로, 현재 실험은 비교적 작은 규모(수천 개 샘플)에서 수행되었으므로 대규모 고차원 PDE에 대한 확장성 검증이 필요하다.

요약하면, DataInNet은 물리 데이터를 네트워크 구조에 직접 삽입함으로써 해 탐색 공간을 제한하고, 고주파 PDE에서도 높은 정확도를 달성하는 유망한 프레임워크이며, 향후 스케일링 및 자동화된 데이터 정규화 기법이 보완된다면 실용적인 과학·공학 시뮬레이션 도구로 자리매김할 가능성이 크다.