수치일관성 비보시스 SGS 모델과 단조 수렴 강화

초록

본 논문은 데이터 동화와 다중 과제 학습을 결합해, 수치 스키마와 일치하는 비보시스(비Boussinesq) 서브그리드 응력(SGS) 모델을 개발한다. 두 개의 비균질 방향을 갖는 역압력 구배 경계층(APG‑TBL)에 적용했으며, 소산 매칭 손실과 단조 격자 수렴을 명시적으로 촉진하는 전략을 도입했다. 후방 테스트에서 기존 Dynamic Smagorinsky 모델보다 평균 속도와 벽 전단 응력 예측이 개선되고, 격자 정밀도가 증가할수록 오차가 감소하는 단조 수렴 특성을 보였다.

상세 분석

이 연구는 기존 머신러닝 기반 SGS 모델이 겪는 “a‑priori와 a‑posteriori 성능 불일치” 문제를 근본적으로 해결하려는 시도다. 첫 번째 핵심은 수치일관성(Numerically Consistent) 접근법이다. 훈련 데이터를 생성할 때, LES 해석기에 직접 삽입된 nudging 항을 이용해 목표 통계(예: 평균 속도 프로파일)를 강제한다. 이렇게 하면 훈련 단계부터 LES의 이산화 연산과 격자 오차가 모델에 내재되므로, 배포 시 발생하는 수치 불일치가 최소화된다.

두 번째 혁신은 비보시스 텐서형 SGS 도입이다. 전통적인 eddy‑viscosity 모델은 응력‑변형률 관계를 Boussinesq 가정에 의존해 선형화하지만, 복잡한 APG‑TBL에서는 비등방성·비선형 효과가 지배적이다. 논문은 응력 텐서를 완전 2차 텐서 형태로 표현하고, 입력 피처에 2‑차 및 3‑차 모멘트, 스케일‑인버전 변수 등을 포함해 비선형 매핑을 학습한다.

학습 손실은 두 개의 목적을 동시에 최적화한다. 첫 번째는 소산 매칭(dissipation‑matching) 손실로, nudged LES에서 얻은 SGS 소산과 모델이 예측한 소산의 L2 차이를 최소화한다. 이는 에너지 전달 메커니즘을 보존해, 특히 분리와 재부착이 일어나는 영역에서 물리적 일관성을 확보한다. 두 번째는 그리드 수렴(monotonic convergence) 손실이다. 다중 과제 학습(Multi‑Task Learning) 프레임워크 안에서, 서로 다른 격자 해상도(코스, 미디엄, 파인)에서 동일 모델을 훈련시키고, 각 해상도별 오차 감소율이 비음수(단조)하도록 제약한다. 이는 기존 SGS 모델이 격자 정밀도를 높일수록 오히려 오차가 커지는 현상을 방지한다.

실험 설정은 APG‑TBL DNS 데이터를 기준으로 한다. 램프 각도 5°, Reθ=670에서 시작해 출구까지 Reθ≈5500까지 성장한다. 두 비균질 방향(x, y)에서 평균 속도와 압력 구배 파라미터 β(0~2.8)를 목표 통계로 사용한다. nudging 강도 αn은 평균 속도 오차가 1% 이하가 되도록 자동 조정된다.

결과는 세 가지 격자(Δ≈14, 20, 25)에서 DSM 대비 평균 속도 프로파일 RMS 오차가 30%~45% 감소하고, 벽 전단 응력 τw 예측이 20% 정도 개선됨을 보여준다. 특히 격자 정밀도가 증가할수록 모델 오차가 지속적으로 감소하는 단조 수렴 곡선을 얻었으며, 이는 훈련 손실에 포함된 수렴 제약이 실제 LES 해석에 그대로 전이된 증거이다.

한계점으로는 현재 단일 APG‑TBL 케이스만을 사용했으며, O(10)~O(100) 규모의 DNS 데이터셋으로 일반화 검증이 필요하다. 또한 nudging에 사용된 목표 통계가 평균 속도에 국한돼 있어, 고차 통계(예: 스펙트럼, 구조 함수)까지 확장하면 모델의 물리적 풍부함을 더 높일 수 있다. 향후 연구는 다중 물리(열전달, 화학반응)와 복합 형상(날개, 터빈 블레이드)에도 적용 가능한 범용 프레임워크 구축을 목표로 한다.