직사각형 행렬 곱셈을 위한 새로운 고속 알고리즘

초록

본 논문은 n×n^α 행렬과 n^α×n 행렬의 곱을 n^{2+o(1)} 연산으로 수행할 수 있는 최대 α를 0.30298로 향상시킨다. 또한 임의의 k≠1에 대해 n×n^k와 n^k×n 행렬 곱셈 알고리즘을 제시하고, 이 알고리즘이 기존 모든 직사각형 행렬 곱셈 방법보다 우수함을 증명한다. 결과적으로 가중치가 작은 정수인 그래프의 모든 쌍 최단 경로 문제를 O(n^{2.5302}) 시간에 해결할 수 있다.

상세 분석

이 논문은 행렬 곱셈 복잡도 이론에서 핵심적인 두 개념, 즉 ω(1,1,k)와 α를 중심으로 전개된다. ω(1,1,k)는 n×n^k 행렬과 n^k×n 행렬을 곱하는 데 필요한 연산 수의 지수이며, α는 ω(1,1,k)=2를 만족하는 최대 k값이다. 기존 연구(Coppersmith 1997)는 α>0.29462를 보였지만, 본 논문은 새로운 텐서 파워 기법을 이용해 α>0.30298을 증명한다. 핵심 아이디어는 Coppersmith‑Winograd의 기본 텐서 F_q를 두 번 텐서곱(F_q⊗F_q)한 구조를 기본 구성으로 삼고, 이를 직사각형 행렬 곱셈에 맞게 확장하는 것이다. 이 과정에서 Schöenhage의 비대칭 합 부등식과 최신의 최적화 프레임워크(특히 Vassilevska Williams의 고차 텐서 분석)를 결합해 복잡도 식을 비선형 최적화 문제로 전환한다. 최적화 변수는 텐서 차원, 분할 비율, 그리고 재귀 깊이 등을 포함하며, 수치적으로 해결한 결과가 표 1과 그림 1에 제시된 ω(1,1,k) 상한을 제공한다.

특히 k∈