텐서 분해 구조 활용으로 매트릭스 곱셈 효율 개선

초록

본 논문은 텐서 분해의 특수 구조를 이용해 기존 6×6 매트릭스 곱셈 알고리즘의 지수적 복잡도를 2.8075에서 2.8016으로 낮추고, 앞선 계수를 크게 증가시키지 않는 새로운 재귀적 방법을 제시한다.

상세 분석

이 연구는 텐서 분해가 제공하는 ‘공통 입력·출력 공유’라는 구조적 특성을 활용한다는 점에서 기존의 행렬 곱셈 가속 기법과 차별화된다. 일반적으로 텐서 분해는 순수히 곱셈 횟수(즉, 텐서의 랭크)만을 기준으로 지수를 추정한다. 그러나 저자들은 동일한 입력 행렬 블록이 여러 재귀 호출에 걸쳐 재사용되거나, 중간 결과가 여러 위치에서 동시에 사용되는 경우를 하나의 더 큰 행렬 곱셈으로 통합함으로써 실제 곱셈 횟수는 변하지 않으면서 재귀 깊이를 늘려 전체 연산량을 감소시킨다.

구체적으로, Moosbauer‑Poole가 제시한 ⟨6,6,6⟩ 텐서의 153개의 랭크‑원 텐서 분해를 분석해 ⟨6,6,6⟩ ≤ 137·⟨1⟩ ⊕ 8·⟨1,1,2⟩ 형태의 제한(restriction)을 도출한다. 여기서 ⟨1,1,2⟩은 2개의 곱셈만 필요하고, ⟨2,2,2⟩는 Strassen의 7개 곱셈으로 구현 가능하다. 저자들은 이 제한을 세 번 텐서 곱(크로네커 곱)으로 확장해 ⟨216,216,216⟩ ≤ ⟨3 581 065⟩ 를 얻는다. 기존 ASI(Asymptotic Sum Inequality)를 적용하면 지수 ω₀≈2.80751이 된다.

핵심적인 혁신은 ‘재귀적 재사용’ 단계이다. 위 제한에서 ⟨2,2,2⟩를 다시 같은 구조의 제한으로 교체하면, 즉 Strassen 대신 현재 제안한 6×6 알고리즘을 재귀적으로 사용하면 곱셈 횟수는 동일하지만 재귀 깊이가 증가해 ω₀≈2.80496으로 더욱 낮아진다. 최종적으로 6×6 기본 케이스에 대해 2.8016이라는 새로운 지수를 달성했으며, 이는 Strassen(2.8073)보다도 개선된 수치이다.

또한 저자들은 연산 계수 A(φ)를 최소화하기 위해 플립 그래프 탐색, DeGroote 액션, 그리고 Mårtensson‑Wagner의 공통 부분식 제거(common subexpression elimination)를 순차적으로 적용했다. 이 과정은 알고리즘을 모듈러 2에서만 유효하게 만든 뒤, 헨셀 리프팅(Hensel lifting)으로 정수 영역으로 확장하는 전략을 사용한다. 결과적으로 추가적인 덧셈 비용을 크게 억제하면서도, 전체 연산량에서 실용적인 수준의 상수 인자를 유지한다.

논문은 또한 3×3, 4×4 등 작은 차원의 매트릭스 곱셈에 대해서도 동일한 구조적 접근을 적용해 기존 최적값(Laderman의 2.854 등)을 2.836으로 낮추는 등, ‘구조 활용’이 작은 차원에서도 유의미한 개선을 제공함을 보여준다.

이러한 접근은 기존 ASI를 실제 알고리즘 설계에 직접 연결시킨 드문 사례이며, 근사 알고리즘이 요구하는 높은 정밀도나 거대한 기본 케이스 없이도 지수 개선과 실용적인 상수 인자를 동시에 달성한다는 점에서 이론과 실용 사이의 격차를 메우는 중요한 진전으로 평가할 수 있다.