회전 불변성을 갖춘 다중 스케일 CNN 기반 서브그리드 모델

초록

본 연구는 편향과 배치 정규화를 제거하고 공간 변환 네트워크(STN)를 도입한 다중 스케일 CNN SGS 모델을 제안한다. 회전 불변성을 강제함으로써 회전된 입력에 대해서도 정확한 응력 텐서 τij와 난류 통계량을 예측한다. 채널 흐름(Reτ=180) 데이터를 이용한 사전(a priori) 평가에서 기존 모델 대비 회전 민감도가 크게 감소했으며, 에너지 전달·역전산 등 물리적 양도 일관되게 재현한다.

상세 분석

이 논문은 LES에서 서브그리드 스케일(SGS) 모델링의 핵심 과제인 회전 불변성, 즉 물질 객관성(material objectivity)을 만족하도록 설계된 데이터‑드리븐 모델을 제시한다. 기존 다중 스케일 CNN(MSC) 모델은 다중 해상도의 컨볼루션 커널을 통해 인접 격자점의 공간 상관을 포착했지만, 편향(bias)과 배치 정규화(BN)와 같은 학습 파라미터가 좌표계 회전에 민감한 특성을 남겼다. 이를 해결하기 위해 저자는 편향을 완전 제거하고 BN 레이어를 없앰으로써 입력 데이터를 그대로 전달하도록 구조를 단순화하였다. 또한, 공간 변환 네트워크(STN)를 모델 앞에 삽입해 입력 텐서를 회전, 스케일, 전단 변환에 대해 자동 정렬하도록 학습시켰다. STN은 학습 가능한 파라미터 θ를 통해 변환 행렬 R(θ)를 추정하고, 이를 입력 특징 X에 적용해 회전된 좌표계에서도 동일한 내부 표현을 얻는다. 이렇게 하면 F(R X Rᵀ)=R F(X) Rᵀ 형태의 변환 법칙을 네트워크 자체가 만족하게 된다.

학습 데이터는 Reτ=180인 채널 흐름 DNS를 필터링한 fDNS이며, 입력 변수는 속도 구배와 다중 스케일 패치(예: 3×3, 5×5, 7×7)이다. 출력은 직접 예측된 SGS 응력 τij이다. 손실 함수는 평균 제곱 오차(MSE)와 물리적 제약(예: 대칭성, 에너지 보존)을 가중합한 형태로 정의돼, 회전된 입력에 대한 일반화 능력을 강화한다. 모델은 8개의 GPU에서 200에폭 동안 학습되었으며, 학습 후에는 회전 각도 0°, 45°, 90°, 180°에 대한 사전 테스트를 수행했다. 결과는 회전 전후 모두 τij의 L2 오차가 5% 이하로 유지되고, 평균 난류 에너지 손실, 역산(backscatter) 비율, SGS 전달 항목이 DNS와 거의 일치함을 보여준다. 특히, 회전된 입력에 대해 기존 MSC 모델이 보였던 편향된 응력 분포가 사라지고, 에너지 흐름(정방향·역방향)도 정확히 재현된다. 이는 STN이 회전 불변성을 학습함과 동시에 편향·BN 제거가 네트워크의 좌표 의존성을 근본적으로 감소시킨 결과로 해석된다. 또한, 모델은 새로운 회전 각도에 대해 추가 재학습 없이도 높은 정확도를 유지하므로, 실제 LES 시뮬레이션에서 다양한 기하학적 배치와 복합 회전 흐름에 적용 가능함을 시사한다.

한계점으로는 현재 실험이 채널 흐름 하나에 국한돼 있어 복잡한 곡면 경계나 높은 Reτ에 대한 일반화 검증이 부족하다. 또한, STN 자체가 추가 연산 비용을 유발하므로 대규모 3D LES에 적용할 때 효율성 최적화가 필요하다. 향후 연구에서는 다중 회전·비선형 변환을 동시에 학습하는 고차원 변환 모듈 도입과, 물리 기반 손실(예: SGS 에너지 균형)과 결합한 하이브리드 학습 전략을 탐색할 예정이다.