그리드 정밀화에서도 최적 수렴을 보장하는 수치 기반 컨볼루션 연산자 네트워크

초록

본 논문은 전통적인 유한차분(FDM)과 유한요소(FEM) 방식을 신경망에 직접 결합한 NICON 프레임워크를 제안한다. 잔차 기반 손실을 이용해 FD‑CON과 FE‑CON 두 모델을 설계하고, 수치 해석을 통해 오류 상한을 도출함으로써 학습 손실 감소와 격자 정밀화 사이의 직접적인 관계를 밝힌다. 또한 포아송 방정식의 선형성을 활용한 서브문제 분해 전략을 도입해 학습 효율과 일반화 성능을 크게 향상시켰으며, 실험을 통해 미세 격자에서도 높은 정확도와 빠른 추론을 확인하였다.

상세 분석

NICON은 “수치적으로 정보가 주입된” 컨볼루션 연산자 네트워크로, 기존 신경 연산자들이 데이터‑중심으로 학습되는 반면 물리 법칙과 수치 스키마를 손실 함수에 직접 삽입한다는 점에서 차별화된다. 구체적으로 FD‑CON은 5‑점(또는 9‑점) 유한차분 스템을 기반으로 한 라플라시안 잔차를, FE‑CON은 FEM의 강성 행렬과 로드 벡터를 이용한 약식 잔차를 각각 최소화하도록 설계되었다. 이러한 잔차 기반 손실은 전통적인 수치 해법이 만족해야 하는 일관성·안정성·수렴성을 신경망이 자동으로 학습하도록 강제한다.

오차 분석에서는 H¹‑세미노름을 기준으로 FD‑CON에 대해 O(h²)·O(‖L‖) 형태의 상한을, FE‑CON에 대해서는 FEM의 전형적인 O(h)·O(‖L‖) 상한을 도출하였다. 여기서 h는 격자 간격, ‖L‖은 학습 손실의 L²‑노름이다. 중요한 결과는 학습 손실이 격자 크기에 비례해 감소하면 전체 근사 오차도 동일한 차수로 수렴한다는 점이다. 이를 바탕으로 저자들은 “손실‑격자 비례 전략”을 제시했는데, 이는 일정한 학습 샘플 수 하에서 손실을 hⁿ 수준으로 억제하도록 학습률·배치 크기·정규화 파라미터를 조정하는 방법이다.

또한 포아송 방정식의 선형성을 이용해 원 문제를 두 개의 서브문제로 분해한다. 첫 번째 서브문제는 순수한 디리클레 경계조건을, 두 번째는 순수한 노이만 경계조건을 갖도록 구성한다. 각각의 서브문제에 대해 별도 FD‑CON/FE‑CON 모델을 학습하고, 최종 해는 두 모델의 선형 결합으로 복원한다. 이 전략은 각 네트워크가 보다 제한된 입력 공간을 다루게 하여 학습 샘플 요구량을 크게 감소시키고, 경계조건이 복합적으로 변하는 상황에서도 높은 일반화 능력을 제공한다.

실험에서는 2D 정사각형 도메인에 대해 다양한 혼합 경계조건과 소스 항을 무작위로 생성하고, 격자 크기를 16×16부터 128×128까지 확대하면서 성능을 평가했다. FD‑CON과 FE‑CON 모두 전통적인 FEM 대비 메모리 사용량은 1/10 수준으로 감소했으며, 추론 시간은 2~5배 가량 빨라졌다. 특히 미세 격자(128×128)에서 FE‑CON은 L²‑오차 1.2e‑3 수준을 달성했으며, 손실‑격자 비례 전략을 적용했을 때 이론적 수렴률(O(h))에 근접하는 결과를 보였다.

한계점으로는 현재 2차원 정다각형 도메인에 국한되어 있으며, 비선형 PDE나 복합 물리 현상(예: 비선형 반응‑확산)에는 직접 적용이 어려울 수 있다. 또한 손실‑격자 비례 전략이 학습 샘플 수가 충분히 큰 경우에만 효과적이라는 가정이 남아 있어, 극히 제한된 데이터 환경에서는 추가적인 정규화 기법이 필요할 것으로 보인다.

전반적으로 NICON은 수치 해법의 이론적 기반을 신경망에 직접 주입함으로써, 격자 정밀화에 따른 수렴성을 보장하고, 기존 데이터‑중심 신경 연산자 대비 학습 효율과 메모리 효율성을 크게 향상시킨 혁신적인 접근이라 할 수 있다.