데이터 기반 안정화 연산자 StabOp 활용 고효율 ROM

초록

본 논문은 전통적인 공간 필터 대신 데이터‑드리븐 안정화 연산자(StabOp)를 설계하여, 저차원 축소 차수 모델(ROM)의 예측 정확도를 크게 향상시키는 방법을 제안한다. Leray 안정화와 결합한 StabOp‑L‑ROM을 다양한 2D·3D 대류‑우세 흐름에 적용한 결과, 최적 필터 반경을 사용한 기존 Leray ROM보다 수십 배에서 수백 배까지 오차가 감소함을 확인하였다.

상세 분석

StabOp의 핵심 아이디어는 “가장 정확한 안정화 연산자를 데이터 기반으로 찾아낸다”는 전제로, 전통적인 필터(가우시안, 스펙트럼 컷오프, 차분 필터 등)의 형태와 파라미터를 사전에 정하는 대신, 입력(비안정화 ROM 계수)과 출력(안정화된 ROM 계수) 사이의 매핑을 선형, 2차, 혹은 신경망 기반 비선형 함수 형태로 가정하고, PDE‑제약 최적화 문제를 풀어 최적 매개변수를 학습한다. 손실 함수는 주로 전체 흐름 에너지 혹은 특정 QoI(예: 와류 강도, 평균 압력 차)와 같은 물리량의 차이를 최소화하도록 정의된다.

이 과정에서 저차원 ROM 공간 자체를 연산자 정의의 도메인·코도메인으로 활용함으로써, 고차원 FOM을 직접 다루는 비용을 피하고, 최적화가 매우 저비용(수백 차원 수준)으로 수행된다. 또한, StabOp는 학습 단계에서 사용된 해상도와 QoI에 맞추어 최적화되므로, 동일한 해상도·관심량에 대해 기존 필터 기반 안정화보다 일관되게 높은 정확도를 제공한다.

Leray ROM과의 결합은 특히 중요한데, Leray 모델은 비선형 대류항에 필터링된 속도를 삽입함으로써 수치적 진동을 억제한다. 기존 Leray ROM은 필터 반경 δ를 경험적으로 조정해야 했으며, δ가 너무 작으면 진동이 남고, 너무 크면 과도한 평활화가 일어나 실제 물리 현상을 손실한다. StabOp‑L‑ROM은 이러한 δ 선택 문제를 근본적으로 없애고, 학습된 연산자가 자동으로 최적의 평활화 정도를 제공한다.

실험 결과는 네 가지 대표적인 대류‑우세 흐름(2D 원통 흐름(Re=500), 2D 뚜껑 구동 캐비티(Re=10000), 3D 반구 흐름(Re=2200), 3D 최소 채널 흐름(Re=5000))에서 확인되었다. 모든 사례에서 StabOp‑L‑ROM은 기존 L‑ROM(최적 δ 적용)보다 평균 상대 L2 오차가 12 자릿수(10배100배) 이상 감소했으며, 시간 진화와 통계량(에너지 스펙트럼, 와류 전파 속도)에서도 현저히 정확한 결과를 보였다. 또한, StabOp가 적용된 흐름 필드의 평활화 패턴은 전통적인 차분 필터나 투영 필터와는 다른 고유의 스펙트럼 특성을 가지며, 이는 StabOp가 단순히 저주파를 차단하는 것이 아니라 데이터‑드리븐 방식으로 물리적 오류를 최소화한다는 것을 의미한다.

이 논문은 필터 기반 안정화가 “어떤 필터가 최적인가”와 “필터 파라미터를 어떻게 선택할 것인가”라는 두 가지 근본적인 질문에 데이터‑드리븐 연산자 설계라는 새로운 해법을 제시함으로써, ROM 분야뿐 아니라 전산 유체역학 전반에 걸친 모델 축소·안정화 전략에 중요한 전환점을 제공한다.