가변 스케일 필터링 나비에 스토크스 방정식의 비교환 오류 보정 방법

초록

본 논문은 가변 필터 스케일을 적용할 때 발생하는 평균 연산과 미분 연산의 비교환으로 인한 추가 항을 근사적으로 계산하는 새로운 절차를 제시한다. 제시된 방법은 필터 폭의 기울기에 의존하는 비교환 항을 4차 정확도로 추정하며, 추가 미분 차수나 경계 조건을 필요로 하지 않는다. 채널 흐름에 대한 사전 검증과 수치 예제를 통해 비교환 항을 포함했을 때 해의 정확도가 크게 향상됨을 확인하였다.

상세 분석

가변 스케일 필터링은 비동질 난류 흐름을 LES(대규모 와류 시뮬레이션)로 해석할 때 필수적인 기법이다. 그러나 필터 폭 δ가 공간에 따라 변하면 평균 연산 ⟨·⟩와 미분 연산 ∂/∂x가 교환되지 않아 Navier‑Stokes 방정식에 추가적인 비동질 항, 즉 비교환 항이 발생한다. 이 항들은 δ의 기울기 ∇δ와 필터링된 변수들의 δ‑미분에 비례하며, 무시될 경우 전 영역에 걸쳐 체계적인 오차를 만든다. 기존 연구에서는 비교환 항을 정확히 계산하기 위해 고차 미분 연산이나 복잡한 매핑 함수를 도입했지만, 이는 추가 경계 조건을 요구하거나 계산 비용을 크게 증가시킨다.

본 논문은 이러한 문제를 해결하기 위해 두 단계의 근사 전략을 제시한다. 첫 번째 단계는 필터 폭을 작은 증분 Δδ로 변화시켜 중앙 차분 형태의 유한 차분식을 적용함으로써 δ‑미분을 2차 정확도로 근사한다. 두 번째 단계에서는 이 근사된 δ‑미분을 다시 필터링하여 고차 항을 제거하고, 전체 비교환 항을 δ‑기울기의 4차 정확도로 표현한다. 핵심은 “연속적인 필터링”을 이용해 원래 변수와 그 δ‑미분을 동시에 다루면서도 필터 형태에 독립적인 일반성을 유지한다는 점이다.

수식적으로는 필터링 연산 Gδ와 미분 연산 ∂i가 비교환하는 항 C_i를
C_i = ∂i⟨u⟩ - ⟨∂i u⟩ = (∂δ/∂x_i)·∂⟨u⟩/∂δ + O(δ^2)
와 같이 전개한다. 여기서 ∂⟨u⟩/∂δ는 앞서 제시한 중앙 차분 근사와 이중 필터링을 통해 구한다. 결과적으로 C_i는 δ‑기울기와 필터링된 변수들의 고차 미분을 포함하지만, 미분 차수가 증가하지 않으므로 기존 LES 코드에 최소한의 수정만으로 삽입 가능하다.

또한, 제안된 방법은 동적 서브그리드 모델이나 혼합 모델과 자연스럽게 결합될 수 있다. 동적 모델에서는 필터 폭을 두 단계(δ와 2δ)로 확대해 스케일 의존성을 추정하는데, 본 절차는 이미 두 단계 필터링을 활용하므로 추가 연산 부담이 거의 없다. 실제 구현에서는 필터링 연산을 FFT 기반 혹은 로컬 커널 방식으로 수행하고, δ‑기울기는 사전에 정의된 격자 함수에서 직접 계산한다.

검증 사례로는 전형적인 채널 흐름(Re_τ=180, 590)에서 비교환 항을 포함·미포함한 두 시뮬레이션을 비교하였다. 비교환 항을 포함한 경우 평균 속도와 전단 응력 프로파일이 DNS(직접 수치 시뮬레이션) 결과와 거의 일치했으며, 특히 근처 벽면에서의 로그층 재현이 크게 개선되었다. 반면 비교환 항을 무시하면 속도 과소평가와 전단 응력 과대평가가 나타나, LES의 전통적인 한계가 드러났다.

마지막으로, 비교환 항을 포함한 수치 실험에서는 비국소 효과가 두드러졌다. 필터 폭이 급격히 변하는 영역에서는 비교환 항이 강하게 작용해 흐름 구조에 직접적인 영향을 미쳤으며, 이는 기존 모델이 놓치기 쉬운 현상이다. 따라서 제안된 절차는 비동질 난류 해석에서 정확도와 물리적 일관성을 동시에 확보할 수 있는 실용적인 도구로 평가된다.