고비율 비정형 격자용 새로운 명시 필터와 AD‑LES 성능 향상

본 논문은 대규모 난류 시뮬레이션(LES)에서 명시 필터가 차지하는 역할과 그 설계가 비정형 격자, 특히 고비율 셀에서 어떻게 제한되는지를 체계적으로 분석하고, 이를 극복하기 위한 새로운 필터를 제안한다. 1. **연구 배경 및 문제점** - LES는 흐름을 큰 스케일(필터링된)과 작은 스케일(SGS)로 분리하지만, 기존의 암시적 격자 필터는 주파수 제어가 불가능하고, 고주파에서 앨리어싱 및 수치 불안정성을 초래한다. - Approximate Deconvolution(AD) 방식은 명시 필터의 역연산을 통해 Sub‑Filter Scale(SFS)을 복원한다. 이때 필터 전이함수의 형태가 정확도와 안정성에 직접적인 영향을 미친다. - 기존 명시 필터(패드(Padé), 차분, 미분형 등)는 구조격자에 최적화돼 있었으며, 비정형 격자에서는 셀 형태와 인접 노드 선택에 따라 스펙트럼 특성이 크게 변동한다. 특히 고비율(높은 종횡비) 셀에서는 필터 폭이 왜곡돼 Nyquist 근처 감쇠가 부족하고, 경우에 따라 해가 발산한다. 2. **새로운 필터 설계 원리** - **면 평균(Face‑averaging)**: 셀 중심값 대신 셀 면을 통해 값들을 평균함으로써 셀 형태 의존성을 감소시킨다. 이는 비정형 프리즘·테트라 격자에서 경계면 왜곡을 완화한다. - **재귀 필터링(Recursive filtering)**: 넓은 스템셀을 여러 차례 좁은 3‑점 스템셀에 적용하는 방식으로, 메모리 사용량과 통신 비용을 최소화하면서 고주파 감쇠를 강화한다. Kim et al. (2021)의 구조격자용 재귀 접근을 비정형 격자에 일반화한 것이다. - **다목적 제약 최적화**: 필터 계수를 다음 목표를 동시에 만족하도록 최적화한다. * Nyquist 근처 감쇠율 최대화(≥0.9) * 저주파 영역에서 전이함수 평탄성 유지(0‑중간 wavenumber에서 변동 ≤5 %) * 설계 필터 폭(Δ)과 실제 폭 일치(오차 ≤2 %) * 전이함수 실수부(감쇠)와 허수부(분산) 최소화 * 양성 및 안정성(전이함수 절대값 ≤1) 보장 * 커뮤테이션 오차 차수 최소화(2차 이상) - 최적화는 유전 알고리즘과 국소 뉴턴 탐색을 결합해 전역 최적해를 탐색한다. 3. **수치 실험 설정** - **채널 흐름(Reτ=395)**: 고비율 격자(Δy⁺≈1 near wall, Δx⁺≈100)와 일반 격자를 모두 사용. 기준 DNS는 Moser et al. (1999). - **3‑D Taylor‑Green Vortex(Re=1600)**: 비정형 프리즘 격자(약 8 M 셀) 사용, DNS는 DeBonis (2013). - AD‑LES는 Van Cittert 5회 반복과 ALDME(Alternative Linear Dynamic Model with Equilibrium) SGS 모델을 결합. 압력‑속도 결합은 PISO, 시간 적분은 2차 후방 차분. 4. **결과 및 분석** - **채널 흐름**: 기존 2차·4차 Padé 필터와 비교해 평균 속도 프로파일의 로그층 기울기 오차가 30 % 이상 감소. 특히 y⁺≈30~100 구간에서 로그층 재현성이 크게 향상. Reynolds 응력 ⟨u′v′⟩와 ⟨v′v′⟩도 전반적으로 DNS에 근접. 고주파 감쇠가 충분히 이루어져 수치 발산 현상이 사라졌다. - **TGV**: 에너지 스펙트럼에서 고주파(κη>0.5) 에너지 누설이 기존 필터 대비 40 % 감소. 전류 소산율도 DNS와 거의 일치. 비정형 프리즘 격자에서도 필터 연산 비용이 기존 넓은 스템셀 대비 15 % 감소하고, 병렬 효율이 10 % 이상 향상. - **스펙트럼 특성**: 제안 필터는 모든 방향(x, y, z)에서 Nyquist 근처 감쇠가 0.9 이상 유지되며, 전이함수의 실수부는 0.2 이하, 허수부는 0.05 이하로 낮아 분산·커뮤테이션 오차가 최소화됨. 5. **의의 및 향후 연구** - 면 평균‑재귀 구조는 비정형 격자에서 필터 설계의 복잡성을 크게 낮추면서도 AD‑LES의 핵심 요구사항을 충족한다는 점에서 혁신적이다. - 고비율 경계층 격자, 복합형 프리즘·테트라 격자, 그리고 산업용 복잡 형상 CFD에 바로 적용 가능하다. - 향후 연구는 보다 높은 차수의 재귀 스템셀, 다중 물리(열·화학) 연계, 그리고 머신러닝 기반 파라미터 튜닝을 통한 자동 최적화 방안을 탐색할 예정이다.