다중 레벨 텐서‑트레인 기반 비선형 PDE 전역 시공간 해법

초록

본 논문은 전역 시공간 형식으로 비선형 편미분방정식을 해결하기 위해 다중 레벨 텐서‑트레인(ML‑TT) 프레임워크를 제안한다. 기존 단일 레벨 TT(​SL‑TT)와 고전적인 시간‑스텝 방식(​CT)과 비교하여, ML‑TT는 코arse‑to‑fine 격자 전이를 TT 저‑랭크 연산으로 수행함으로써 Newton 반복의 초기값을 고품질로 제공하고, 강한 비선형·강성·대류 지배 영역에서도 수렴성을 크게 향상시킨다. Fisher‑KPP, 점성 버거스, 사인‑고르돈, KdV 등 네 종류의 비선형 PDE에 대한 수치 실험을 통해 정확도·연산 비용 모두에서 우수함을 입증한다.

상세 분석

이 연구는 텐서‑트레인(TT) 형식의 고차원 압축 능력을 전통적인 전역 시공간 해법에 결합한 뒤, 다중 레벨 전략을 도입함으로써 기존 단일 레벨 TT 방식이 직면하던 수렴 불안정성을 근본적으로 해결한다는 점에서 의의가 크다. 먼저, 저‑랭크 TT 표현을 이용해 공간·시간 차원을 각각 2‑진법으로 접어(log‑scale) 압축하는 Quantized TT(QTT) 기법을 적용함으로써 메모리와 연산 복잡도를 O(d n r²) → O(log N · r²) 수준으로 낮춘다. 이때 r은 TT‑rank이며, 적절한 라운딩(ε‑tolerance)으로 rank 폭발을 억제한다.

핵심 혁신은 “코arse‑to‑fine” 다중 레벨 전이이다. 각 레벨 ℓ는 (Nxℓ, Ntℓ) 격자를 정의하고, 이전(코arse) 레벨에서 얻은 TT 솔루션을 저‑랭크 연장 연산자 Pℓ→ℓ+1를 통해 고해상도 격자로 보간한다. 이 연장 연산자는 TT 코어 간의 Kronecker 결합과 축소(contraction) 연산으로 직접 구성되며, DMRG(디엔마르-맥라스-러그러) 적응‑랭크 솔버에 의해 Newton 잔차와 Jacobian을 동시에 해결한다. 중요한 점은 전통적인 멀티그리드와 달리 여기서는 선형화된 연산자에 대한 잔차 전이·제한·교정이 없으며, 각 레벨을 독립적으로 완전 수렴시킨 뒤 다음 레벨의 초기값으로만 활용한다는 점이다. 따라서 비선형 스텝에서 발생하는 “Newton 정체” 문제를 사전에 방지한다.

수치 실험에서는 네 가지 대표적인 비선형 PDE를 선택하였다. (1) Fisher‑KPP는 확산·반응이 지배하는 완만한 비선형성, (2) 점성 버거스는 확산‑대류 비율에 따라 파라볼릭·하이퍼볼릭 전이 현상을 보이며, (3) 사인‑고르돈은 강한 비선형 진동과 솔리톤 상호작용을, (4) KdV는 고차 분산 효과를 포함한다. 각 사례에 대해 (a) 격자 정밀도(Nx, Nt) 수렴 실험, (b) TT‑rounding 오차와 전체 오차를 분리한 오류 분석, (c) CPU 시간·메모리 사용량 비교를 수행하였다. 결과는 다음과 같다.

• SL‑TT는 강한 대류·비선형 구간에서 Newton 초기값이 부실해 수렴이 멈추거나 급격히 느려졌다. 반면 ML‑TT는 코arse 레벨에서 얻은 초기값이 충분히 “스무스”해 Newton이 3~5번 이내에 수렴한다.
• 동일한 최종 격자(Nx=2¹⁰, Nt=2⁸)에서도 ML‑TT는 TT‑rank 평균이 1.5배 정도 낮아 메모리 사용량이 30 % 절감되고, 연산 시간도 2~3배 가량 단축된다.
• QTT를 적용한 경우, 특히 KdV와 같은 고차 분산 문제에서 로그‑스케일 압축이 효과적이었으며, 전체 오류는 공간·시간 이산화 오차와 TT‑rounding 오차가 거의 동일하게 기여함을 확인했다.
• CT(전통적인 시간‑스텝)와 비교했을 때, ML‑TT는 전체 시뮬레이션 동안 누적된 시간‑스텝 오차가 없으므로 동일 격자에서도 절대 오차가 1~2자리 더 낮았다.

이러한 결과는 “전역 시공간+다중 레벨+저‑랭크”라는 삼중 결합이 비선형·강성·고차원 PDE에 대해 기존 방법보다 더 견고하고 효율적인 해법을 제공한다는 강력한 증거가 된다. 또한, TT‑rounding 오차와 물리적 오차를 명확히 구분한 체계적인 실험 설계는 향후 TT 기반 시뮬레이션의 정확도 보증에 중요한 기준을 제시한다.