행렬 곱셈 알고리즘의 대칭성 연구

초록

본 논문은 빠른 행렬 곱셈 알고리즘에 내재된 대칭성을 정의하고, Hopcroft, Laderman, Pan 알고리즘에 대해 자동동형군을 구한다. 결과적으로 Hopcroft 알고리즘은 S₃ × ℤ₂, Laderman 알고리즘은 S₄, 그리고 일반적인 Pan 계열 알고리즘은 Sₘ × ℤ₂ × S₃와 동형임을 보인다.

상세 분석

논문은 먼저 행렬 곱셈 알고리즘을 “이중선형(bilinear) 알고리즘”이라는 관점에서 정의한다. 입력 행렬 X∈M_{m×n}(K), Y∈M_{n×p}(K) 를 선형 결합을 통해 r개의 중간 스칼라 곱 p_l = d_l·f_l 로 변환하고, 다시 선형 결합을 통해 최종 결과를 얻는 형태를 제시한다. 이때 r은 알고리즘의 복잡도(곱셈 횟수)이며, 최소 r을 찾는 것이 핵심 문제이다. 이러한 알고리즘은 텐서 h_{m,n,p}=∑{i,j,k} e{ij}⊗e_{jk}⊗e_{ki}의 분해와 일대일 대응한다는 점을 강조한다. 따라서 알고리즘의 대칭성은 해당 텐서의 등각군(isotropy group)과 직접 연결된다.

다음으로 저자는 “자동동형(automorphism)”을 정의한다. 알고리즘 A={ (a_l,b_l,c_l) }에 대해, 선형 변환 (g₁,g₂,g₃)∈GL(M_{m×n})×GL(M_{n×p})×GL(M_{p×m})가 각각 a_l, b_l, c_l에 동시에 작용하여 전체 트리플 집합을 그대로 보존하면 (g₁,g₂,g₃)를 A의 자동동형이라 한다. 이는 텐서 h_{m,n,p}의 등각군에 대한 부분군이며, 알고리즘마다 고유한 구조적 제약을 가진다.

핵심 결과는 세 가지 알고리즘에 대한 자동동형군을 정확히 구한 것이다.

1. Hopcroft 알고리즘(H)은 3×2와 2×3 행렬 곱을 15번의 곱셈으로 수행한다. 저자는 H의 자동동형군이 S₃×ℤ₂와 동형임을 증명한다. 여기서 S₃는 행·열 교환에 의한 대칭, ℤ₂는 부호 반전(스칼라 -1) 변환을 의미한다.
2. Laderman 알고리즘(L)은 3×3 행렬 곱을 23번의 곱셈으로 구현한다. L에 대한 자동동형군은 완전 대칭군 S₄와 동형이며, 이는 알고리즘 내부의 네 개의 기본 트리플이 서로 교환 가능한 구조임을 반영한다.
3. Pan의 일반화된 트리플라거 합성 알고리즘(P_{2^m})은 n=2^m 차원의 행렬 곱을 (n³−4n)/3+6n² 번의 곱셈으로 수행한다. 저자는 Aut(P_{2^m})≅S_m×ℤ₂×S₃임을 보인다. 여기서 S_m은 m개의 블록(각 블록은 2×2 Strassen 패턴)의 순열, ℤ₂는 전체 부호 반전, S₃는 각 블록 내부의 3가지 기본 변환을 나타낸다.

자동동형군을 구하기 위해 저자는 먼저 h_{m,n,p} 텐서의 등각군을 구한다. 이 등각군은 GL_m×GL_n×GL_p의 직접곱에 의해 구성되며, 특정 행·열 교환과 전치 연산이 포함된다. 이후 각 알고리즘의 트리플 집합을 이 등각군에 제한시켜 고정점(불변 집합)을 찾는다. 고정점의 구조를 분석하면 자동동형군이 위와 같은 직축곱 형태임을 확인한다.

이러한 대칭 분석은 두 가지 중요한 시사점을 제공한다. 첫째, 대칭이 큰 알고리즘은 구조적으로 단순하고 변형이 용이하므로 새로운 알고리즘을 설계할 때 탐색 공간을 크게 축소할 수 있다. 둘째, 자동동형군의 크기와 형태는 알고리즘의 최적성(예: 최소 곱셈 횟수)과 연관될 가능성이 있다. 따라서 향후 연구에서는 대칭을 활용한 자동화된 알고리즘 탐색, 혹은 대칭이 풍부한 새로운 알고리즘 클래스(예: 고차원 Strassen‑like 패턴) 발굴이 기대된다.