희소 기체 흐름을 위한 AI 기반 연산자 학습 프레임워크

초록

본 논문은 희소 기체 흐름 시뮬레이션에서 비용이 큰 DSMC·FP 해석을 딥러닝과 신경 연산자(DeepONet)로 가속화하는 통합 프레임워크를 제시한다. GPU‑네이티브 DNN을 이용해 FP 방법의 고차 모멘트 폐쇄 연산을 대체해 1.7배 수준의 실시간 속도를 달성하고, 물리‑가이드·충격 인식 DeepONet 구조와 앙상블 불확실성 정량화를 결합해 마하·크누센수 전 범위의 마이크로 노즐·계단·극초음속 원통 흐름을 높은 정확도로 예측한다.

상세 분석

이 연구는 두 가지 차원에서 희소 기체 흐름 계산을 혁신한다. 첫 번째는 입자 기반 Fokker‑Planck(FP) 해석의 핵심 병목인 고차 모멘트 폐쇄 단계에 GPU‑전용 다층 퍼셉트론(MLP)을 삽입한 것이다. 기존 FP 해석에서는 9×9와 같은 밀집 선형 시스템을 매 타임스텝·셀마다 풀어야 했으며, 이는 전체 실행 시간의 40% 이상을 차지했다. 제안된 DNN 서브스티튜트는 16개의 저차 입력 피처(밀도·속도·온도 등)만을 사용해 9개의 폐쇄 계수를 직접 예측한다. CuPy 기반 순방향 연산만으로 GPU 내부에서 완전 수행되므로 CPU‑GPU 데이터 전송 오버헤드가 사라지고, Amdahl 법칙에 의해 이론적 최대 가속도 1.727배에 근접하는 1.73배 속도 향상을 실현한다. 특히, 훈련에 사용된 속도 범위(최대 200 m/s)를 넘어선 800 m/s 급격한 압축·가열 상황에서도 온도·밀도·속도 필드가 원래 FP 해와 거의 일치함을 보여, 물리적 일관성을 유지한 강인한 외삽 능력을 확인한다.

두 번째는 연산자 학습 관점에서 DeepONet을 활용한 전역 흐름 서브스티튜트이다. 마하 5~15, Kn = 0.01 등 극초음속 원통 흐름을 DSMC 데이터로 학습시켰으며, 브랜치 네트워크가 자유 흐름 마하수를, 트렁크 네트워크가 공간 좌표(x,y)를 인코딩해 전체 필드(압력·온도·속도)를 재구성한다. 물리‑가이드 손실(충격 영역에 가중치 부여)과 충격‑인식 입력(예: 압력·온도 급변 피처)으로 비선형 연산자를 효율적으로 학습한다. 또한, 서로 다른 초기화와 하이퍼파라미터를 가진 DeepONet을 다중 학습해 앙상블 평균을 최종 예측값으로, 분산을 불확실성(에피스틱) 지표로 활용한다. 결과는 훈련 범위 내(M=7,9,12,14)와 훈련 외(M=15) 모두에서 DSMC와 거의 일치하며, 특히 충격 전후의 급격한 변수 변화를 정확히 포착한다. 불확실성 밴드는 충격 전후에서만 약간 확대돼, 모델이 높은 기울기 영역에서 더 큰 회귀 불확실성을 인식함을 보여준다.

추가적으로 논문은 ‘전문가 군(Family‑of‑Experts)’ 전략을 제안한다. 파라미터(마하·Kn) 구간별로 특화된 DeepONet을 사전 학습하고, 입력 파라미터에 따라 가장 적합한 전문가 모델을 선택하거나 가중 평균을 수행한다. 이는 전역 모델이 겪는 급격한 전이(예: 계단 흐름의 분리·재결합) 문제를 완화하고, 데이터 효율성을 크게 높인다. 전체 프레임워크는 (1) FP‑DNN 가속, (2) 연산자‑기반 DeepONet 서브스티튜트, (3) 물리‑가이드 손실·전문가 군·앙상블 UQ라는 세 축을 결합해, 희소 기체 흐름 시뮬레이션을 실시간 설계·최적화 수준으로 끌어올린다.