구조화 압축을 통한 경험적 사분면 기반 모델 축소의 학습 복잡도 감소

초록

본 논문은 비선형 동적 시스템의 모델 차원 축소 과정에서 발생하는 복잡도 감소(하이퍼‑리덕션) 훈련 비용을 크게 낮추기 위해, 스냅샷 데이터에 구조화 압축을 적용하는 새로운 전처리 기법을 제안한다. 제안 방법은 훈련 데이터의 차원을 스냅샷 수에만 의존하도록 설계되어, 기존 방법 대비 오프라인 비용과 메모리 사용량을 약 10배 정도 절감하면서도 근사 정확도는 유지한다.

상세 분석

이 논문은 비선형 시스템에 대한 모델 순서 축소(Model Order Reduction, MOR)에서 두 단계, 즉 차원 축소와 복잡도 감소(Complexity Reduction, CR)를 구분한다. 차원 축소는 전통적인 투영 기반 기법으로, 저차원 기저 (W, V)를 이용해 고차원 상태를 압축한다. 그러나 비선형 항 (f)의 평가 비용은 여전히 원래 차원 (N)에 비례하므로, 온라인 효율성을 확보하려면 CR 단계가 필수적이다. 경험적 사분면(Empirical Quadrature, EQ)과 셀 기반 경험적 입방(Empirical Cubature, EC)은 “project‑then‑approximate” 패러다임에 속하는 대표적인 CR 기법으로, 원래의 적분 형태를 희소한 가중치와 선택된 샘플 집합 (\mathcal{I}_c)으로 대체한다.

기존의 훈련 절차는 모든 스냅샷 (x_k)에 대해 원본 비선형 항을 완전한 형태로 평가하고, 이를 기반으로 (\mathcal{I}_c)와 가중치 (\omega_m)를 선택하는 비선형 최소제곱 문제(문제 1)를 푼다. 이 과정은 스냅샷 수 (K)와 차원 (N_r)에 비례하는 행렬 (\tilde A\in\mathbb{R}^{K N_r\times M})를 직접 다루어야 하므로, 메모리와 연산량이 (O(KN_rM)) 수준으로 급증한다. 특히 행렬이 거의 선형 종속성을 가지면 그레디 탐색(Orthogonal Matching Pursuit, OMP) 과정에서 수렴이 불안정해지는 문제가 발생한다.

저자들은 이러한 병목을 해소하기 위해 “구조화 압축(Structured Compression)”이라는 전처리 단계를 도입한다. 핵심 아이디어는 (\tilde A)를 직접 압축하는 것이 아니라, (\tilde A)가 갖는 블록‑구조(예: 각 스냅샷‑모드 쌍에 대응하는 열 벡터)와 물리적 의미(지역적 테스트 함수와 비선형 항의 곱)를 활용해 저차원 대표 행렬 ( \hat A)를 구성하는 것이다. 구체적으로는

1. 스냅샷을 먼저 POD(또는 랜덤 SVD)로 압축해 (K)개의 대표 모드 (U\in\mathbb{R}^{N\times r_s})를 얻고,
2. 각 테스트 함수 (\phi_r^n)와 결합된 형태 (\beta_m^\ast(f(x_k),\phi_r^n))를 (U)의 좌표계에서 재표현한다.
   이 과정을 통해 (\tilde A)는 (r_s N_r) 차원의 행렬로 축소되며, 여기서 (r_s\ll K)이다. 중요한 점은 압축 과정이 스냅샷 수 (K)에만 의존하고, 원래 차원 (N)이나 고차원 적분 포인트 수 (M)와는 독립적이라는 것이다.

압축된 행렬 (\hat A)를 사용하면 문제 1의 목적함수는 (| \hat A (u-\tilde u)|_2^2 + (d^\top(u-\tilde u))^2) 형태로 그대로 유지되면서, OMP 알고리즘의 각 반복에서 수행되는 행렬‑벡터 곱 연산이 크게 가벼워진다. 저자들은 이와 같은 구조화 압축이 기존의 단순 SVD 기반 압축보다 더 정확한 근사와 더 빠른 수렴을 제공함을 이론적 오류 분석(정리 6.1)과 수치 실험을 통해 입증한다. 특히, 정규화 항 (|d^\top(u-\tilde u)|_2^2)이 포함된 덕분에 트리비얼 해(모든 가중치를 0)로 수렴하는 현상을 방지하고, 압축 오차가 전체 근사 오차에 미치는 영향을 상한으로 제시한다.

실험에서는 2D·3D 비선형 파라미터화된 파동 방정식과 유체역학 문제에 대해 기존 OMP 기반 훈련과 비교했을 때, 메모리 사용량이 812배 감소하고, 전체 오프라인 실행 시간이 59배 단축되었다. 선택된 샘플 수 (|\mathcal{I}_c|)와 온라인 오류는 기존 방법과 거의 동일하거나 오히려 약간 개선되는 결과를 보였다. 이는 구조화 압축이 데이터의 내재된 물리적 구조를 보존하면서도 차원 축소 효과를 극대화한다는 중요한 시사점을 제공한다.

요약하면, 이 논문은 “project‑then‑approximate” 방식의 복잡도 감소 훈련을 위한 새로운 전처리 기법을 제시함으로써, 대규모 비선형 시뮬레이션에서도 실용적인 오프라인 비용을 확보하고, 구조 보존형 모델 축소의 적용 범위를 크게 확장한다는 점에서 학술적·실용적 가치를 동시에 지닌다.