저차원 곱 연산으로 네우만 급수 빠르게 평가하기

초록

본 논문은 행렬의 트렁케이트 네우만 급수 Sₖ(A)=I+A+⋯+A^{k‑1} 를 고속으로 계산하기 위해, 곱 연산 수를 최소화하는 저차원(radix) 커널을 설계한다. 기존의 이진 분할(2‑radix) 방식은 2 log₂k 개의 곱을 필요로 하지만, 저자들은 정확한 9‑radix 커널을 3개의 곱으로 구현하고, 15‑radix에서는 근사 커널과 잔차 기반 프레임워크를 도입해 6/log₂15≈1.54 의 이론적 상수를 달성한다. 실험을 통해 제품 수 감소와 실행 시간 향상을 확인한다.

상세 분석

논문은 먼저 트렁케이트 네우만 급수 Sₖ(A) 의 계산 비용이 행렬‑행렬 곱(GEMM) 횟수에 의해 지배된다는 점을 강조한다. 기존 방법은 k‑1 개의 곱을 쓰는 완전 나이브 방식과, S_{mn}(A)=S_n(A)·T_m(A^n) 이라는 분할 식을 이용해 O(log k) 복잡도로 낮추는 이진·삼진·혼합 {2,3} 스키마가 있다. 이때 T_m(B)=I+B+⋯+B^{m‑1} 를 계산하는 데 필요한 최소 곱 수를 μ_m 이라 두면, 한 단계 업데이트 비용은 C(m)=μ_m+2 이며, 전체 알고리즘의 상수는 C(m)/log₂m 이 된다. 저자는 μ_m≥⌈log₂(m‑1)⌉ 라는 하한을 이용해 μ_9≥3, μ_15≥4 임을 보인다. 기존에 알려진 μ_5=2 (5‑radix) 커널을 확장해, 9‑radix에서는 정확히 μ_9=3 을 달성하는 새로운 커널을 구성한다. 핵심은 U=B², V=U(B+2U)=B³+2B⁴ 을 만든 뒤, 두 선형 결합 P·Q 을 통해 B⁵~B⁸ 항을 한 번에 생성하고, 남은 저차항을 U, V 의 가중합으로 보정하는 방식이다. 이 과정에서 사용되는 계수는 모두 분모가 800 이하인 유리수이므로, 정밀 고정소수점 연산에서도 정확히 구현 가능하다. 결과적으로 9‑radix 업데이트는 5 개의 곱으로 Sₖ(A) 를 5·log₉k≈1.58·log₂k 번만 수행해, 이진 분할 대비 21 %의 곱 수 절감 효과를 얻는다.

15‑radix에 대해서는 μ_15=4 라는 하한을 만족하는 정확한 유리 커널을 찾지 못했으며, 대신 수치 최적화를 통해 ≈4 개의 곱으로 T₁₅(B) 를 근사하는 커널을 설계한다. 이 커널은 B¹⁵ 이상의 차수(스필오버) 항을 포함하지만, 잔차 E(z)=1-(1-z)f(z) 의 형태로 정의한다. 저자는 스필오버가 존재해도 E(z) 를 다시 커널에 적용하는 f(E(z)) 전략을 제안한다. 이때 f 가 (1-z)^{-1} 을 O(z^m) 정도까지 근사하면, f(z)·f(E(z)) 는 m² 차까지 정확히 일치한다는 레마를 증명한다. 따라서 15‑radix 업데이트는 6 개의 곱으로 Sₖ(A) 를 계산할 수 있으며, 이론적 상수는 6/log₂15≈1.54 로 현재 알려진 최적값을 달성한다.

마지막으로 저자는 다양한 차원·밀도에서 실험을 수행해, 제안된 9‑radix와 15‑radix 알고리즘이 실제 실행 시간에서도 이진·삼진 방식보다 일관되게 우수함을 보여준다. 특히, 9‑radix는 정확한 유리 커널 덕분에 오차가 전혀 없으며, 15‑radix는 잔차 기반 프레임워크가 스필오버를 효과적으로 억제한다는 점이 강조된다. 전체적으로 이 연구는 행렬‑행렬 곱 비용이 지배적인 상황에서 네우만 급수의 고속 평가를 위한 새로운 이론적 한계와 실용적 구현 방안을 제공한다.