FlexTrace: 행렬 함수 트레이스 추정을 위한 교환 가능한 단일 패스 방법

초록

본 논문은 대규모 대칭 양의 반정정 행렬 A에 대해, f(0)=0 이면서 연산자 단조인 함수 f에 대해 tr(f(A)) 를 추정하는 새로운 알고리즘 FlexTrace를 제안한다. FlexTrace는 A에 대한 행-벡터 곱만을 이용해 단일 패스로 추정값을 얻으며, 랜덤화된 Nyström 저랭크 근사와 교환 가능성(exchangeability) 원리를 결합해 기존 방법보다 낮은 분산과 높은 정확도를 제공한다. 이론적 기대값·MSE 경계와 다양한 실험을 통해 기존 Stochastic Lanczos Quadrature, FUNNyström 등과 비교해 우수함을 입증한다.

상세 분석

FlexTrace는 크게 두 단계로 구성된다. 첫 번째는 표준 정규분포를 따르는 무작위 행렬 Ω∈ℝ^{n×k} 를 이용해 A의 랜덤화된 Nyström 근사 A_nys= AΩ(ΩᵀAΩ)^{†}(AΩ)ᵀ 를 만든다. 이때 저랭크 근사는 A의 주요 스펙트럼을 효과적으로 포착하고, (ΩᵀAΩ)^{†} 연산은 안정적인 부분 피벗 Cholesky(또는 dpstrf)로 구현해 수치적 안정성을 확보한다. 두 번째 단계에서는 근사된 행렬 A_nys 에 대해 함수 f 를 직접 적용해 f(A_nys)=U f(Λ) Uᵀ 를 얻고, 그 트레이스 tr(f(A_nys)) 를 기본 추정값으로 삼는다.

핵심 혁신은 “교환 가능성” 개념을 도입해, 남은 잔차 R=A−A_nys 에 대해 하나의 랜덤 벡터 ω₁ 을 사용한 Monte‑Carlo 보정 ω₁ᵀR ω₁ 을 추가한다는 점이다. 이 보정은 전체 추정값을 tr(f(A_nys)) + ω₁ᵀ(R)ω₁ 로 만들며, 추정 과정이 사용된 무작위 벡터들의 순열에 대해 불변(교환 가능)한다. Proposition 2.2에 따라 교환 가능한 형태는 동일한 편향을 유지하면서 분산을 최소화하므로, Rao‑Blackwell 정리와 동일한 효과를 제공한다.

연산 복잡도 측면에서 FlexTrace는 A에 대한 k 번의 행‑벡터 곱만 필요하고, 추가적인 f(A) 곱은 전혀 요구하지 않는다. 이는 기존 Stochastic Lanczos Quadrature가 필요로 하는 다중 패스(예: A·(A·x) 등)와 비교해 큰 장점이다. 또한, 함수 f 가 연산자 단조이며 f(0)=0 이라는 가정 하에, Loewner 순서를 이용해 f(A) 와 f(A_nys) 사이의 반강도 부등식 f(A_nys) ⪯ f(A) 을 증명하고, 이를 기반으로 기대값과 MSE에 대한 명시적 상한을 도출한다. 특히, Schatten p‑norm(1≤p≤2)이나 로그‑행렬식과 같은 실용적인 경우에 대해 기존 방법 대비 O(1/k) 보다 빠른 수렴률을 보인다.

실험에서는 합성 저랭크 행렬, 베이지안 회귀(로그‑행렬식), 행렬 완성(핵노름), 그리고 커널 방법(효과적 차원) 등 네 가지 도메인을 테스트했다. 모든 경우에서 FlexTrace는 동일한 matvec 횟수 대비 평균 절대 오차가 2~5배 정도 감소했으며, 특히 스펙트럼이 급격히 감소하는 경우(예: 지수적 고유값 감소)에서 그 차이가 두드러졌다. 또한, 함수 f 를 여러 개 동시에 평가할 때도 추가적인 A‑곱이 필요 없으므로, 다중‑함수 상황에서도 효율성을 유지한다.

한계점으로는 연산자 단조 함수에만 적용 가능하다는 제약과, Nyström 근사의 품질이 k 값에 크게 의존한다는 점이 있다. 하지만 논문에서는 k 를 자동 선택하는 휴리스틱(예: 잔차 Frobenius norm 기준)과, 수치적 랭크 추정을 통한 동적 차원 조절 방식을 제시해 실용성을 높였다. 전반적으로 FlexTrace는 대규모 SPSD 행렬에 대한 함수 트레이스 추정 문제에 있어, matvec 비용을 최소화하면서 통계적 효율성을 극대화하는 새로운 패러다임을 제공한다.