텐서링 분해의 몫 기하학: 완전계수 조건과 게이지 불변성의 통합

초록

본 논문은 텐서링(TR) 분해에 대해 전치 행렬의 완전계수(full‑rank) 조건을 부과하고, 핵심 텐서 사이의 게이트 삽입이 초래하는 게이지 불변성을 군 작용으로 모델링한다. 이를 통해 TR 파라미터 공간을 PGL 그룹으로 나눈 몫 다양체를 정의하고, 수직·수평 공간 및 투영 연산자를 명시적으로 구성한다. 또한 동일 코어를 갖는 균일 TR(Uniform‑TR)에도 동일한 기하학을 확장하고, 텐서 완성 실험을 통해 제안된 기하학 기반 최적화 방법의 효율성을 검증한다.

상세 분석

논문은 먼저 텐서링 분해가 TT(텐서 트레인)와 달리 순환 구조를 가지며, 이로 인해 각 코어 텐서 사이에 임의의 가역 행렬 Aₖ와 그 역행렬 Aₖ⁻¹를 삽입해도 전체 텐서는 변하지 않는 ‘게이지 불변성(gauge invariance)’을 갖는다는 점을 강조한다. 이러한 불변성은 GL(r₁)×…×GL(r_d) 군의 작용으로 표현될 수 있으며, 특히 전체 스칼라 c∈ℝ에 대한 전역 스케일링이 추가적으로 존재한다는 점에서 PGL(r)=GL(r₁)×…×GL(r_d)/ℝ 로 나눠야 한다는 점을 지적한다.

핵심적인 수학적 전제는 모든 코어 텐서의 모드‑2 전개 행렬 (Uₖ)^{(2)} 가 완전계수, 즉 rank((Uₖ)^{(2)}) = rₖ·rₖ₊₁이며 rₖ·rₖ₊₁ ≤ nₖ 를 만족한다는 것이다. 이 조건 하에서 ‘주입형(injective) TR 텐서’가 정의되고, Theorem 3.1(기본 정리 of MPS) 에 의해 동일 텐서를 다른 코어 집합으로 표현하려면 반드시 위의 GL 군 원소들의 변환을 통해서만 가능함을 보인다. 즉, 코어 텐서들의 등가 클래스는 정확히 위의 군 작용에 의해 생성된다.

그 다음, 저자는 파라미터 공간 M*r = Πₖ ℝ^{rₖ×nₖ×rₖ₊₁}* (여기서 는 완전계수 조건을 의미) 를 정의하고, 위의 PGL(r) 작용이 자유롭고 적절(proper)함을 증명한다. 따라서 몫 집합 M_r / PGL(r) 은 매끄러운 다양체, 즉 ‘몫 다양체(quotient manifold)’가 된다.

다양체 위에서의 미분기하학적 구조를 구축하기 위해 수직 공간 VₓM (군 궤도에 접하는 방향) 과 수평 공간 HₓM (수직 공간의 직교 여공간)을 명시적으로 파라미터화한다. 특히 TR 구조에서는 인접 코어 간의 결합이 존재하므로, 수평 공간의 조건이 TT에서와 달리 두 코어 사이의 교차 항을 포함한다(예: Proposition 3.10). 이를 기반으로 투영 연산자 P_{H} 와 P_{V} 를 구하고, 리트랙션과 벡터 전송 연산자도 정의한다.

균일 TR(모든 코어가 동일) 경우에는 파라미터 차원이 차수 d 에 독립적이 되므로, 위의 구조를 더욱 간소화할 수 있다. 기존 문헌