실수 영역에서 일반 3차원 배열의 계수와 그 수치적 계산

초록

본 논문은 실수 체 위의 3차원 텐서(three‑way array) 계수를 다항식 시스템의 실근과 연결시키는 새로운 수치적 방법을 제시한다. Gröbner 기저를 이용해 일반 텐서의 전형적(rank)과 특이적(rank) 값을 계산하고, 다양한 차원·크기의 사례에 대해 실험 결과를 보고한다.

상세 분석

논문은 먼저 3차원 배열 A∈ℝ^{I×J×K}의 CP( CANDECOMP/PARAFAC) 분해를 통해 정의되는 텐서 계수(rank) 개념을 재정의한다. 기존 이론에서는 복소수 체에서의 전형적(rank)와 실수 체에서의 전형적(rank) 차이가 존재함을 알려 왔으며, 특히 실수 체에서는 “typical rank”가 여러 개 존재할 수 있다는 점이 핵심 난점이다. 저자는 이를 해결하기 위해 A를 선형 결합 형태
A = Σ_{r=1}^{R} a_r ⊗ b_r ⊗ c_r
으로 표현하고, 각 factor vector (a_r, b_r, c_r) 를 변수화한 뒤, 계수 R이 최소가 되도록 하는 다항식 제약식 집합을 구축한다. 이 제약식은 각 모드별 정규화와 스케일링 자유도를 제거하기 위해 추가적인 선형 방정식과 비선형(주로 2차) 방정식으로 구성된다. 결과적으로 텐서 계수 R은 “해가 존재하는 최소 R”와 동치가 되며, 이는 실수 해의 존재 여부를 판정하는 문제로 전환된다.

다항식 시스템의 실근 존재 여부를 판단하기 위해 Gröbner 기저를 활용한다. 저자는 Buchberger 알고리즘을 기반으로 한 소프트웨어 (Maple/Mathematica)와 수치적 근사법 (homotopy continuation) 을 결합해, 실근이 존재하면 해당 R이 텐서의 실제 계수임을 확인한다. 특히, 실수 해가 복소수 해와 구분되는 경우(예: 실근이 없고 복소근만 존재하는 경우)에는 해당 R이 “불가능한” 계수임을 선언한다.

실험에서는 (I,J,K) = (2,2,2), (2,3,3), (3,3,4) 등 다양한 작은 차원의 텐서에 대해 전형적(rank)와 특이적(rank) 값을 계산하였다. 결과는 기존 문헌에 보고된 복소수 전형적(rank)와 일치하지만, 실수 체에서는 추가적인 전형적(rank) 값이 나타나는 경우가 확인되었다. 예를 들어, 2×2×2 텐서의 경우 복소수 전형적(rank)는 2이지만, 실수 체에서는 3도 전형적(rank)로 나타난다. 이러한 현상은 Veronese와 Segre 다양체의 실수점 구조와 직접 연관되며, 논문은 이를 기하학적으로 해석한다.

마지막으로 저자는 현재 알고리즘의 한계점—특히 차원이 커질수록 다항식 시스템의 차수가 급격히 상승하고, Gröbner 기저 계산이 메모리·시간적으로 비현실적이 되는 문제—을 언급하고, 향후 희소화 기법, 모듈러 연산, 그리고 병렬화된 homotopy 방법을 통한 확장 가능성을 제시한다. 전체적으로 이 연구는 텐서 계수 문제를 대수기하학적 관점에서 수치적으로 접근한 최초의 시도 중 하나이며, 실수 데이터 분석(예: psychometrics, chemometrics)에서 전형적(rank) 선택에 실질적인 가이드라인을 제공한다.