23번 곱셈으로 3×3 행렬을 곱하는 새로운 방법

초록

본 논문은 3×3 행렬 곱셈을 23개의 스칼라 곱만으로 수행하는 새로운 비가환 알고리즘을 제시한다. 저자들은 Brent 방정식을 SAT 문제로 변환하고 500여 개의 SAT 솔버를 활용해 해를 탐색하였다. 새로 얻은 해는 기존 Laderman 해와 등가가 아니며, 행렬의 랭크 분포를 통해 차별성을 입증한다. 이는 22개의 곱셈으로 3×3 행렬을 곱하는 해가 존재할 가능성을 높이는 중요한 증거가 된다.

상세 분석

본 연구는 3×3 행렬 곱셈을 23개의 곱셈으로 구현하는 Laderman 알고리즘(1976) 이후 35년간 개선되지 않은 상황에 새로운 해를 제시함으로써 이 분야에 중요한 전기를 마련한다. 핵심은 “Brent 방정식”이라 불리는 3×3 행렬 곱셈을 bilinear 형태로 표현한 729개의 3차 방정식을 활용하는 데 있다. 저자들은 먼저 이 방정식을 모듈로 2로 축소하여 이진 해 공간을 탐색하고, 찾은 해를 모듈로 4로 ‘리프팅’하는 과정을 통해 일반적인 정수 혹은 유리계수 해를 얻을 가능성을 열어두었다.

특히, 방정식들을 SAT 형식으로 변환하는 과정이 혁신적이다. 변수는 각 곱셈 i(1≤i≤23)의 A(i), B(i), C(i) 행렬 원소를 나타내며, 곱셈 수 r=23을 고정한다. 저자들은 자체 개발한 변환 도구를 공개하고, 500여 개의 최신 SAT 솔버(포트폴리오 방식)를 병렬로 실행해 몇 일 안에 해를 발견했다. 이는 기존에 수작업이나 제한된 탐색으로는 도달하기 어려웠던 해 공간을 효율적으로 탐색할 수 있음을 보여준다.

새로운 알고리즘은 23개의 곱셈 P01~P23으로 구성되며, 각 곱셈은 선형 결합 형태의 입력 행렬 원소들의 곱으로 정의된다. 저자들은 Maple을 이용해 모든 9개의 결과 원소가 정확히 원래 행렬 곱과 일치함을 검증하였다.

등가성 분석에서는 기존 Laderman 해와 Johnson·McLoughlin(1986)의 두 무한 패밀리 해와의 차이를 ‘3×r 랭크 분포’라는 불변량을 통해 증명한다. Laderman 해는 6개의 rank‑3 행렬을 포함하지만, 새로운 해는 정확히 2개의 rank‑3 행렬만을 포함한다. 이는 변환군(인덱스 순열, 순환 교환, 전치·역전, 스케일링, sandwiching) 하에서도 변하지 않는 특성으로, 두 해가 서로 변환될 수 없음을 강력히 뒷받침한다.

이러한 결과는 3×3 행렬 곱셈을 22개의 곱셈으로 구현할 가능성을 시사한다. 현재 탐색된 해 공간이 훨씬 넓으며, SAT 솔버와 변환 기법이 지속적으로 개선된다면 22‑곱셈 해가 발견될 확률이 크게 상승한다. 다만, 논문은 해의 일반성(모든 체에서 동작)과 복잡도(상수 팩터) 측면에서 추가 검증이 필요하며, 실제 구현 시 메모리 접근 패턴과 병렬화 효율성도 고려해야 한다.