부분곱셈을 위한 TPP 삼중집합 업그레이드

초록

본 논문은 Cohn‑Umans 프레임워크에서 행렬곱의 지수 ω를 제한하기 위해 필요한 삼중곱셈성질(TPP) 삼중집합을 확대하는 방법을 제시한다. 기존에 부분집합 대신 부분군만을 탐색하던 한계를 넘어, 주어진 부분군 TPP 삼중집합을 더 큰 부분집합 삼중집합으로 ‘업그레이드’하는 알고리즘과, 업그레이드가 불가능할 경우 삼중집합을 축소하여 다시 시도하는 휴리스틱을 개발한다. 실험 결과, 한 단계의 부분군 업그레이드 뒤에 부분집합 업그레이드를 적용하면 최악의 경우 크기가 두 배까지 증가한다는 것을 확인하였다.

상세 분석

논문은 먼저 Cohn‑Umans 이론에서 TPP 삼중집합이 행렬곱을 군링에서 구현하는 핵심임을 재확인하고, β(G)와 β₍g₎(G)라는 두 종류의 용량 개념을 도입한다. β₍g₎(G)는 부분군만으로 얻을 수 있는 최대 n·p·m 값을 의미하고, β(G)는 일반 부분집합을 허용했을 때의 최댓값이다. 두 값 사이에 격차가 존재하는 경우, 부분군 삼중집합을 부분집합 삼중집합으로 확장함으로써 더 큰 용량을 얻을 가능성이 있다.

업그레이드 절차는 크게 두 단계로 나뉜다. 첫 번째는 ‘부분군 업그레이드’ 단계로, 기존 삼중집합 (S,T,U)에서 각 집합을 하나씩 원소 c를 추가해 새로운 집합 ˜S=S∪{c} 등으로 확장한다. 이때 가능한 추가 원소는 C=G(S∪T∪U) 로 정의하고, 추가 후에도 TPP 조건을 만족하는지를 빠르게 검사하기 위해 특수 TPP 테스트를 사용한다. 핵심은 오른쪽 몫 Q(X)= {xy⁻¹ | x,y∈X} 의 구조를 이용해 Q(˜S)∩TU=1 등 간단한 교집합 검증만으로 충분하다는 점이다. 논문은 Lemma 1을 통해 부분군에 원소를 하나 더하면 |Q|가 최소 2|X|, 최대 3|X| 로 제한된다는 사실을 증명하고, 이를 기반으로 업그레이드 가능성을 판단하는 IsGroupUpgradePossible 알고리즘을 설계한다.

두 번째는 ‘부분집합 업그레이드’ 단계이다. 여기서는 원소 추가가 부분군이 아닌 일반 부분집합에 적용되므로 Q의 성장에 대한 강한 경계가 없으며, Lemma 2에 의해 |Q(X∪{c})| ≤ |Q(X)|+2|X| 정도만 보장한다. 따라서 가능한 업그레이드 후보 집합 C(S)=G(S∪Q(T)∪Q(U)) 등으로 정의하고, SpecialTPPTestSet 함수를 통해 교집합 검증을 수행한다. 이 단계에서도 (2)식과 (3)식에서 도출된 크기 제한을 활용해 업그레이드 가능한 집합을 미리 필터링한다.

업그레이드가 전혀 불가능한 경우를 대비해 논문은 ‘축소(Reduction)’ 전략을 제시한다. 네 가지 휴리스틱—무작위 삭제, 제한된 무작위 삭제, 최대 삼중집합 감소, 최대 몫 감소—을 통해 삼중집합에서 하나의 원소를 제거하고, 축소된 삼중집합을 다시 업그레이드 프로세스에 투입한다. 이는 탐색 공간을 크게 줄이면서도 잠재적인 확장 가능성을 유지한다는 장점이 있다.

실험에서는 dihedral group D₁₀ 등 작은 비아벨 군을 대상으로 알고리즘을 적용했으며, 부분군 업그레이드 후 부분집합 업그레이드를 수행했을 때 삼중집합 크기가 최대 100 % 증가하는 사례를 관찰했다. 이는 β₍g₎(G)보다 큰 β(G) 값을 얻을 수 있음을 시사한다. 또한, 알고리즘의 시간 복잡도는 후보 원소 집합 C의 크기에 선형적으로 의존하므로, 실제 구현에서는 후보를 정렬하거나 우선순위를 부여해 효율을 높일 수 있다.

전체적으로 논문은 TPP 삼중집합 탐색의 두 가지 난관—검색 공간의 폭발과 부분군에 한정된 용량—을 동시에 해결하려는 시도로, 이론적 경계와 실용적 알고리즘을 모두 제공한다. 특히, 부분군에서 부분집합으로의 단계적 업그레이드 아이디어는 기존 연구에서 거의 다루어지지 않았던 새로운 방향을 제시한다는 점에서 의미가 크다.