임의의 형상을 학습하는 변환기 기반 신경망 연산자, GINOT

초록

본 연구는 변환기(Transformer) 아키텍처와 신경망 연산자(Neural Operator) 프레임워크를 결합한 Geometry-Informed Neural Operator Transformer (GINOT)를 제안한다. GINOT는 순서가 없고, 점 밀도가 불균일하며, 점 개수가 가변적인 표면 점 구름(Point Cloud)을 효과적으로 인코딩하여 복잡한 2D/3D 임의 형상에 대한 편미분 방정식(PDE) 해를 빠르고 정확하게 예측한다.

상세 분석

GINOT의 핵심 기술적 혁신은 임의 형상을 표현하는 점 구름 데이터의 특성(순서 무관성, 비균일 밀도, 가변 길이)을 효과적으로 처리하는 전용 기하학 인코더(Geometry Encoder) 설계에 있다. 기존 Fourier Neural Operator (FNO)는 고정된 규칙 격자에, DeepONet는 단일 형상에 국한되는 한계가 있었다. GINOT는 PointNet++에서 영감을 받은 샘플링(Sampling) 및 그룹화(Grouping) 레이어를 도입하여 국소 기하학적 특징을 추출한다. 구체적으로, Iterative Farthest Point Sampling (FPS)로 전체 형상을 대표하는 중심점들을 선정하고, 각 중심점 주변 반경 내 점들을 그룹화하여 국소 패치를 형성한다. 이렇게 추출된 국소 특징(Query)은 위치 인코딩을 통해 얻은 전체 점 구름의 전역 특징(Key, Value)과 교차 어텐션(Cross-Attention)을 수행하여 정보를 융합한다. 이 어텐션 메커니즘은 순서 변환에 불변(invariant)하는 출력을 보장한다.

솔루션 디코더(Solution Decoder)에서는 쿼리 포인트(해를 구하고자 하는 공간상의 위치)를 Nerf 위치 인코딩으로 처리한 후, 기하학 인코더가 생성한 Key와 Value 행렬에 대해 교차 어텐션을 수행한다. 이를 통해 특정 쿼리 포인트가 전체 형상 중 가장 관련성 높은 기하학적 정보에 ‘주의’를 기울일 수 있게 한다. 이 구조는 고정된 격자가 아닌 임의의 위치에서 해를 예측하는 것을 가능하게 하며, Signed Distance Function (SDF)과 같은 추가적인 형상 표현 방식을 필요로 하지 않아 계산 비용을 절감한다.

GINOT는 형상 외에도 하중, 재료 속성 등 추가 입력 조건을 처리할 수 있도록 확장 가능한 구조를 가지며, 패딩 점을 배제하는 마스킹 기법을 통해 가변 길이 배치 처리를 구현했다. 실험을 통해 복잡한 형상에서도 높은 정확도와 강력한 일반화 성능을 입증하였으며, SDF 기반 방법 대비 형상 표현을 위한 계산 비용이 낮다는 장점을 보였다.