기하학적 복잡도 이론으로 보는 텐서 계급과 행렬곱의 경계계급

초록

멀뮬리와 소호니의 기하학적 복잡도 이론(GCT)을 텐서의 경계계급 문제에 적용한다. $G=GL(W_1)\times GL(W_2)\times GL(W_3)$와 그 특수 부분군 $G_s$의 표현을 이용해 행렬곱 텐서의 경계계급 하한을 탐구한다. $G_s$‑표현만으로는 비자명한 하한을 얻을 수 없으며, $G$‑표현을 사용해야 함을 보인다. 마지막으로 표현 반정체의 반다항체(모멘트 폴리토프) 접근을 제안하고, 행렬곱 및 단위 텐서의 모멘트 폴리토프에 대한 초기 결과를 제시한다.

상세 분석

이 논문은 Mulmuley‑Sohoni가 제시한 기하학적 복잡도 이론(GCT)의 핵심 아이디어를 텐서의 경계계급(border rank) 문제에 직접 옮겨 적용한다. GCT에서는 영구‑행렬식 문제를 “특정 궤도 폐쇄(orbit closure) 문제”로 모델링하고, 그 궤도 폐쇄의 좌표환(coordinate ring) 안에 나타나는 불변 표현을 통해 복잡도 하한을 얻는다. 저자들은 이를 $G=GL(W_1)\times GL(W_2)\times GL(W_3)$가 $W=W_1\otimes W_2\otimes W_3$에 작용하는 상황에 맞추어, 특히 행렬곱 텐서 $M_{\langle n\rangle}$와 단위 텐서 $U_d$에 초점을 맞춘다.

핵심은 두 종류의 군, 즉 전체 일반선형군 $G$와 그 특수 부분군 $G_s=SL(W_1)\times SL(W_2)\times SL(W_3)$ 사이의 표현 차이를 분석하는 데 있다. GCT2에서는 $G_s$‑불변 표현이 “안정(stable) 텐서 $w$의 안정자(stabilizer) 군에 대한 비자명한 불변을 갖는 경우에만” 좌표환에 등장한다는 사실을 이용한다. 저자들은 이 명제를 검증하고, 실제로 $G_s$‑표현만을 사용하면 행렬곱 텐서의 경계계급에 대해 오직 $n$ 차원 이하의 아주 미미한 하한만 얻을 수 있음을 증명한다. 이는 $G_s$‑표현이 너무 제한적이라는 “표현 장벽”을 의미한다.

이를 극복하기 위해 저자들은 $G$‑표현을 고려한다. $G$‑표현은 $G_s$‑표현보다 더 풍부한 구조를 가지고 있어, 안정자 군에 대한 불변 조건을 완화한다. 논문은 $G$‑표현을 이용해 행렬곱 텐서에 대해 “매우 겸손한” 하한, 즉 $\underline{R}(M_{\langle n\rangle})\ge 2n-1$ 정도를 얻는다. 비록 이 결과가 현재 알려진 최선의 하한에 비해 크게 뒤처지지만, $G_s$‑표현만으로는 불가능했던 새로운 하한을 얻었다는 점에서 의미가 크다.

마지막으로 저자들은 표현 반정체(semigroup of representations)를 직접 다루는 대신, 그 “볼록 껍질”인 모멘트 폴리토프(moment polytope)를 연구하는 방향을 제시한다. 모멘트 폴리토프는 각 표현의 최고 가중치(highest weight)를 점으로 나타낸 다각형(다면체)이며, 궤도 폐쇄 포함 관계는 폴리토프 포함 관계로 변환된다. 이를 통해 복잡도 하한을 다각형 포함 문제로 환원시킬 수 있다. 논문은 행렬곱 텐서와 단위 텐서의 모멘트 폴리토프에 대한 초기 계산 결과를 제시하고, 향후 이 접근법이 더 강력한 하한을 제공할 가능성을 논의한다.