경계조건을 학습 가능한 함수 확장으로 구현한 신경 연산자 프레임워크

초록

본 논문은 복잡하고 변동성이 큰 비동질 경계조건을 신경 연산자에 효과적으로 통합하기 위해, 경계 데이터를 전체 도메인에 확장하는 ‘확장자(extender)’ 모듈을 제안한다. 제안 방법은 경계함수를 통합된 형태로 정규화하고, 제로·조화·학습형 의사확장 세 가지 옵션을 제공한다. 이를 기존의 인코드‑프로세스‑디코드 신경 연산자와 결합해 18개의 난이도 높은 Poisson, 선형 탄성, 비선형 탄성 데이터셋에서 기존 방법을 크게 능가하는 정확도를 달성하였다.

상세 분석

이 연구는 PDE 경계값 문제에서 특히 해가 경계조건에 매우 민감한 타원형 방정식에 초점을 맞춘다. 기존 신경 연산자들은 주로 내부 파라미터(계수, 초기조건 등)만을 입력으로 사용하고, 경계조건은 고정되거나 약하게 변동하는 경우에만 적용 가능했다. 저자들은 이러한 한계를 극복하기 위해 ‘경계‑도메인 확장(extender)’이라는 새로운 모듈을 도입한다. 먼저 모든 종류의 경계조건(디리클레, 노이만, 로빈)을 하나의 통합 형태 B(q,u)=α⊙B_D(u)+β⊙B_N(u)−γ 로 변환하고, 물리적 단위와 스케일을 맞추는 정규화 절차를 제시한다. 이때 α,β,γ는 전체 경계에 정의된 함수이며, 이를 통해 경계조건을 동일한 차원으로 표현한다.

확장자는 경계함수 q를 전체 영역 Ω 에 ‘의사‑확장’ ψ로 매핑한다. 제로 확장(0X)은 경계 외부를 0으로 채우는 가장 단순한 방식이며, 조화 확장(HX)은 라플라스 방정식을 풀어 최소 디리클레 에너지의 매끄러운 확장을 얻는다. 그러나 HX는 FEM 해석 비용이 높아 실시간 적용에 제약이 있다. 이를 보완하기 위해 저자들은 학습 가능한 확장자(LX)를 설계했으며, 이는 입력 경계값과 도메인 좌표를 교차‑주의(cross‑attention)와 피드‑포워드 레이어를 반복 적용해 ψ 를 생성한다. 이 과정은 다운샘플링된 좌표 집합에 대해 수행돼 계산 효율성을 유지한다.

생성된 ψ 는 기존 신경 연산자 Φ (예: FNO, Graph‑Neural‑Operator, Transformer‑based Operator)와 결합되어 Gθ(a,q)=Φθ(a,ψ) 라는 형태의 전체 연산자를 만든다. 여기서 a 는 내부 계수이며, Φθ는 도메인‑투‑도메인 매핑을 학습한다. 중요한 점은 ψ 가 경계 정보를 완전히 내포하고 있기 때문에, Φθ는 별도의 경계 처리 없이도 전역 해를 정확히 예측할 수 있다는 것이다.

실험에서는 6가지 서로 다른 기하학(원, 사각형, 부메랑 등)과 18개의 데이터셋을 구축했으며, 각 샘플은 무작위 크기·위치·구성요소별 경계조건을 갖는다. 비교 대상은 기존 BENO, PENN, BOON 등이며, 오류율(%) 기준으로 LX 기반 모델이 30%~70% 수준의 절대 오차를 보인 반면, 기존 방법은 10배 이상 높은 오차를 기록했다. 특히 복합 경계(디리클레+노이만+로빈)와 다중 세그먼트 상황에서도 학습형 확장자는 일관된 성능 향상을 보여, 하이퍼파라미터 튜닝 없이도 다양한 문제에 적용 가능함을 입증했다.

이 논문의 핵심 기여는 (1) 경계조건을 물리적으로 일관된 형태로 통합하는 정규화 기법, (2) 함수 확장을 통한 경계조건 인코딩 방법론, (3) 이를 기존 연산자에 손쉽게 삽입할 수 있는 모듈식 설계, (4) 광범위한 벤치마크를 통한 실증적 검증이다. 결과적으로 복잡한 경계조건을 갖는 PDE 문제에서도 신경 연산자를 안정적으로 활용할 수 있는 실용적인 프레임워크를 제공한다.