다중레벨 랜덤 피처 기반 ELM‑FBPINN: 선형 최소제곱으로 구현하는 효율적 물리‑인포 네트워크

초록

본 논문은 기존 FBPINN의 영역 분할·파티션‑오브‑유니티 구조에 Extreme Learning Machine(ELM) 형태의 랜덤 피처를 결합한 ELM‑FBPINN을 제안한다. 서브도메인 네트워크를 고정된 무작위 가중치로 대체하고 출력 가중치만 선형 최소제곱으로 학습함으로써 역전파를 완전히 없애고 학습 시간을 크게 단축한다. 또한 다중레벨 계층형 도메인 분해를 도입해 희소 행렬 구조를 활용, 대규모 문제에서도 효율적인 LSQR 솔버로 해결한다. 1D 감쇠 조화진동자와 2D 다중스케일 라플라스 문제에 대한 실험에서 기존 PINN·FBPINN 대비 수렴 속도가 10배 이상 빨라지고, 하이퍼파라미터에 대한 민감도가 크게 감소했으며, 정확도는 동등하거나 약간 향상되는 것을 확인하였다.

상세 분석

ELM‑FBPINN은 두 가지 핵심 아이디어를 결합한다. 첫째, FBPINN이 도입한 겹치는 서브도메인과 파티션‑오브‑유니티 윈도우는 각 서브도메인에서 다루어야 할 함수 복잡도를 크게 낮추어 스펙트럴 바이어스를 완화한다. 둘째, Extreme Learning Machine은 은닉층 가중치를 무작위로 고정하고 출력층 가중치만 선형 시스템으로 구한다는 점에서 전통적인 PINN이 겪는 비선형 최적화의 불안정성을 근본적으로 제거한다. 논문은 이를 수학적으로 정리하여, PDE 연산자와 경계 연산자가 모두 선형일 경우 손실 함수가 계수 벡터에 대해 2차 형태가 되므로 최적화 문제가 전형적인 최소제곱 문제로 변환됨을 증명한다.

다중레벨 확장은 기존 단일 레벨 도메인 분할을 계층적으로 확장한다. 레벨 ℓ마다 더 세밀한 서브도메인 집합을 두고, 각 레벨의 윈도우 함수가 겹치면서 전체 해를 다중 스케일 보정 형태로 표현한다. 이때 각 서브도메인에 할당된 랜덤 피처는 해당 윈도우의 지원 영역에만 영향을 미치므로 시스템 행렬 M은 블록‑희소 구조를 갖는다. 저자들은 이를 이용해 M을 CSR 형식으로 효율적으로 조립하고, LSQR 같은 반복 최소제곱 솔버로 직접 해결한다.

실험에서는 두 가지 베치마크를 선택했다. 1D 감쇠 조화진동자는 고주파 성분과 지수 감쇠를 동시에 포함해 스펙트럴 바이어스에 대한 민감도를 테스트한다. 여기서 ELM‑FBPINN은 서브도메인 수와 랜덤 피처 수를 적절히 늘리면 고주파 성분을 정확히 재현하면서도 학습 시간이 기존 PINN 대비 15배 가량 감소한다. 2D 다중스케일 라플라스 문제는 여러 스케일의 사인 모드가 겹쳐 있어 전통적인 PINN이 수렴하기 어려운 상황을 만든다. 다중레벨 ELM‑FBPINN은 레벨당 50~100개의 랜덤 피처를 사용했을 때, L2 오차가 1e‑4 수준으로 유지되면서도 메모리 사용량과 계산 시간은 선형적으로 증가한다.

아블레이션 연구에서는 (1) 서브도메인당 랜덤 피처 수 K가 증가할수록 행렬 조건수가 악화되지만, 레벨을 추가하면 고주파 보정이 저레벨에서 담당해 전체 조건을 완화한다는 점을 확인했다. (2) 윈도우 함수의 겹침 비율을 조절하면 스펙트럴 바이어스 억제와 행렬 희소성 사이의 트레이드오프가 존재한다는 사실을 제시했다. (3) 선형 PDE에 한정된 현재 구현은 비선형 연산자를 직접 적용하기 어려우며, 이를 위해 비선형 연산자를 선형화하거나 사전조건자를 설계하는 추가 연구가 필요함을 언급한다.

전반적으로 ELM‑FBPINN은 “학습 = 선형 해석”이라는 패러다임을 제시함으로써, 물리‑인포 네트워크의 주요 병목인 역전파와 하이퍼파라미터 튜닝을 크게 경감한다. 다만, 랜덤 피처의 수와 서브도메인 설계가 정확도와 효율성에 직접적인 영향을 미치므로, 자동화된 적응형 서브도메인·피처 선택 전략이 향후 과제로 남는다.