단위 신경 연산자를 이용한 동질화 문제용 가속 공액 기울기 해법

초록

본 논문은 파라메트릭 PDE의 다중 쿼리 상황에서 전통적인 공액 기울기(CG) 방법의 수렴성을 유지하면서 학습 기반 전처리기를 도입해 반복 횟수를 크게 감소시키는 하이브리드 솔버 UNO‑CG를 제안한다. 전처리기로는 Fourier Neural Operator를 변형한 Unitary Neural Operator(UNO)를 사용해 근사 그린 함수(Green’s function)를 학습하고, 이를 대칭·양정(positive‑definite) 특성을 갖는 전처리 행렬로 변환한다. 수치 실험에서는 수백만 자유도 규모의 복합재 동질화 문제와 다양한 경계조건에 대해 기존 FFT 기반 전처리기와 손수 설계한 전처리기와 비교해 유사하거나 더 나은 수렴 속도를 보이며, 학습 비용 대비 높은 범용성을 입증한다.

상세 분석

UNO‑CG는 기존 CG 방법의 수렴 보장을 전제 조건으로 삼아, 전처리기가 반드시 대칭이며 양정이어야 한다는 수학적 요구를 학습 단계에서 강제한다. 이를 위해 저자들은 Fourier Neural Operator(FNO)의 복소수 스펙트럼 변환 단계에 유니터리 제약을 부여해, 학습된 연산자가 입력 파라미터에 따라 변해도 항상 유니터리(즉, 역행렬이 전치 복소공액과 동일) 특성을 유지하도록 설계하였다. 이러한 설계는 연산자를 실제 그린 함수의 근사로 해석할 수 있게 하며, 전통적인 Green’s function 기반 전처리와 동일한 물리적 의미를 갖는다.

학습 데이터는 다양한 미세구조와 물성 파라미터, 그리고 로딩 조건을 포함한 파라메트릭 PDE 솔루션을 고정밀 FEM 혹은 FFT‑기반 솔버로부터 생성하였다. 입력은 물성 텐서와 미세구조 이미지, 출력은 스펙트럼 영역에서의 전처리 행렬(또는 그에 대응하는 필터)이다. 손실 함수는 전처리 행렬이 실제 스펙트럼 전치와 곱했을 때 아이덴티티에 가까워지도록 하는 Frobenius norm 기반 정규화 항과, 대칭·양정성을 유지하도록 하는 제약 항을 동시에 최소화한다.

수치 실험에서는 (1) 고대비 복합재의 2D/3D 동질화, (2) 다양한 경계조건(주기, 디리클레, 뉴먼) 하에서의 성능, (3) 기존 FFT‑기반 전처리기(FANS)와 손수 설계한 다중 격자(preconditioned CG)와의 비교를 수행하였다. 결과는 UNO‑CG가 평균 30‑70% 적은 CG 반복 횟수를 달성했으며, 특히 고대비와 비정형 경계조건에서 기존 전처리기보다 견고한 수렴을 보였다. 또한 학습된 전처리기는 파라미터 공간 전반에 걸쳐 일반화 능력을 유지해, 새로운 미세구조가 추가되더라도 재학습 없이 바로 적용 가능하였다.

이 논문의 주요 기여는 다음과 같다. 첫째, 전처리기의 대칭·양정성을 학습 단계에서 강제함으로써 CG와의 호환성을 이론적으로 보장한다. 둘째, UNO라는 새로운 신경 연산자 구조를 제시해, 기존 FNO가 갖는 복소수 스펙트럼 변환의 자유도를 제한하면서도 물리적 의미(그린 함수)와 수치적 안정성을 동시에 확보한다. 셋째, 전통적인 FFT‑기반 전처리기와 손수 설계한 전처리기의 장점을 결합한 하이브리드 접근법을 통해, 전문가 지식이 부족한 상황에서도 높은 성능을 유지한다. 마지막으로, 수백만 자유도 규모의 3D 동질화 문제에 적용 가능함을 실증함으로써, 대규모 멀티스케일 시뮬레이션에 실용적인 대안을 제공한다.