스테브(STEV) 솔버와 머신러닝 융합을 통한 고속 강직 화학 반응 적분

초록

본 논문은 GPU 환경에서 논리적 분기 문제를 최소화한 명시적 안정화 가변 부하(STEV) 솔버를 제안하고, 얕은 신경망을 이용해 열역학량을 근사함으로써 기존 강직 화학 적분기법 대비 200배 이상 빠른 계산 속도와 유사한 정확도를 달성한 연구를 보고한다.

상세 분석

STEV 솔버는 전통적인 암시적 강직 ODE 해법이 GPU에서 발생하는 워프 발산(warp divergence) 문제를 회피하기 위해 명시적 접근법에 여러 안정화 장치를 추가한 것이 핵심이다. 첫 번째는 가변 시간 단계 제한으로, 각 셀마다 최대 허용 농도 변화와 최대 허용 시간 증가량을 동시에 고려해 동적으로 Δt를 계산한다(식 1‑5). 이를 통해 급격한 반응 속도 변화에도 과도한 스텝 오버스텝을 방지하고, 수치적 발산을 억제한다. 두 번째는 소량 종 안정화로, 농도가 매우 낮은 종에 대해 반응 속도를 완만하게 감소시키는 함수 γ(C)=C/(ε+C)를 도입해 음수 농도 발생을 차단한다(식 6‑7). ε는 10⁻⁵ 수준으로 설정돼 실제 화학 메커니즘에서 무시해도 되는 미량 종을 효과적으로 처리한다. 세 번째는 이산 푸리에 변환(DFT) 기반 링잉 억제이다. 가역 반응에서 진동성(링잉)이 나타날 경우, 최근 13개의 반응 진행 변화량을 DFT로 변환해 고주파 성분 비중을 평가하고, 링잉 팩터 r을 계산한다(식 8‑14). r이 일정 임계값 이하로 떨어지면 가역 반응 속도를 급격히 감쇠시켜 평형에 빠르게 도달하도록 한다. 이러한 세 단계의 안정화는 명시적 방법이 일반적으로 강직 문제에서 요구되는 작은 타임스텝을 회피하게 해준다.

STEV의 가변 부하 로딩은 각 셀의 현재 타임스텝이 다르더라도 동일 워프 내에서 동시에 연산하도록 설계되었다. 셀이 목표 통합 시간에 도달하면 즉시 워프에서 제외되고, 남은 셀만 계속 계산한다. 초기 단계(전체 셀의 1/α, 여기서 α≈0.01‑0.1)에서는 모든 셀이 활성화돼 GPU 활용률이 최대가 되며, 이후에는 실제로 강직 조건을 가진 셀만 남아 효율적인 병렬성을 유지한다. 이는 전통적인 암시적 솔버가 전체 시스템에 대해 동일한 작은 타임스텝을 적용해야 하는 비효율성을 크게 개선한다.

머신러닝 가속 부분에서는 **얕은 신경망(Shallow NN)**을 이용해 엔탈피·비열·기체 상수 등 열역학량을 다항식 근사 대신 예측한다. 학습 데이터는 기존 화학 메커니즘에서 추출한 온도‑압력‑조성 표로 구성됐으며, 학습 비용은 수 분에 불과하고 추론 비용은 GPU에서 10 % 정도의 시간 절감 효과를 보였다. 최신 텐서플로우 그래프 최적화와 Volta 아키텍처 전용 코어를 활용하면 최대 28 %까지 절감 가능하다고 제시한다. 다만, 가역 반응이 다수 포함된 대규모 메커니즘(GRIMECH 등)에서는 DFT 억제 단계가 과도한 연산을 초래해 여전히 작은 타임스텝이 필요하므로, 현재 구현은 중간 규모(수백 종) 메커니즘에 최적화돼 있다.

실험 결과는 MFiX CFD 코드에 STEV를 통합해 단일·다상 흐름을 시뮬레이션한 것으로, 전통적인 LSODE/LSODA 기반 암시적 솔버 대비 총 화학 연산 시간이 200배 이상 감소했으며, 온도·종 농도 오차는 1 % 이하로 유지되었다. 셀당 부하가 증가할수록 가변 부하 효과가 극대화돼 시간 절감 비율이 더욱 상승한다는 점도 확인됐다. 전체적으로 STEV는 GPU 친화적인 명시적 강직 해법의 가능성을 열어주며, 머신러닝을 통한 부가적인 최적화가 실용적인 수준의 성능 향상을 제공한다는 점에서 의미가 크다.