대부분의 텐서 문제는 NP하드

초록

우리는 다중선형(텐서) 형태의 여러 효율적으로 계산 가능한 수치선형대수 문제들의 아날로그가 NP‑hard임을 증명한다. 여기에는 이중선형 방정식 시스템의 실현 가능성 판단, 3‑텐서가 주어진 고유값·특이값·스펙트럼 노름을 갖는지 여부 결정, 고유값·고유벡터·특이벡터·스펙트럼 노름의 근사, 3‑텐서의 랭크 또는 최적의 랭크‑1 근사 결정이 포함된다. 또한 이러한 문제들을 대칭 텐서에 제한해도 NP‑hard성이 완화되지 않음을 보인다. 대칭 4‑텐서의 비음수 정의성 판단이 NP‑hard이며, 4‑텐서의 조합적 하이퍼디터미넌트 계산이 NP‑, #P‑, VNP‑hard임을 설명한다. 우리는 이 결과들이 선형·볼록 문제의 계산적 tractability와 비선형·비볼록 문제의 intractability 사이의 경계를 새롭게 조명한다고 주장한다.

상세 분석

이 논문은 텐서 연산이 현대 데이터 과학, 물리학, 기계 학습 등 다양한 분야에서 핵심적인 역할을 수행함에도 불구하고, 그 계산 복잡도에 대한 근본적인 이해가 아직 부족하다는 점을 지적한다. 저자들은 먼저 이중선형 방정식 시스템의 실현 가능성 판단 문제를 고전적인 3‑SAT 문제와 귀납적으로 연결시켜, 해당 문제의 결정적 난이도가 NP‑complete임을 보인다. 이는 선형 방정식이 다항식 시간에 풀릴 수 있는 반면, 이중선형 형태는 곧바로 비선형 최적화 문제로 전락한다는 사실을 강조한다.

다음으로 3‑텐서의 고유값·특이값·스펙트럼 노름과 같은 기본적인 선형 대수 개념을 텐서 차원으로 일반화했을 때, 이러한 양들을 정확히 계산하거나 근사하는 것이 모두 NP‑hard임을 증명한다. 여기서는 텐서 고유값 문제를 그래프 색칠 문제와 연결하고, 스펙트럼 노름 근사 문제를 최대 절단(Max‑Cut) 문제와 연관시켜 복잡도 경계를 명확히 한다. 특히, 근사 알고리즘에 대한 하드니스 결과는 PTAS(다항식 시간 근사 스킴)조차 존재하지 않을 가능성을 시사한다.

또한 텐서의 랭크와 최적의 랭크‑1 근사 문제는 기존에 행렬 랭크와 유사하게 보일 수 있으나, 저자들은 이를 3‑SAT와 직접적인 감소(reduction)를 통해 NP‑hard임을 입증한다. 이 결과는 텐서 분해(Tensor Decomposition)와 같은 실용적인 응용 분야—예를 들어, 신경망 가중치 압축이나 다차원 신호 처리—에서 최적 해를 찾는 것이 이론적으로 불가능에 가깝다는 중요한 시사점을 제공한다.

대칭 텐서에 대한 제한도 마찬가지로 난이도를 낮추지 못한다는 점을 강조한다. 대칭 4‑텐서의 비음수 정의성 판단 문제를 다항식 시간에 해결할 수 없음을 보이며, 이는 고차 다항식의 양성 여부 판단과 동등한 복잡도를 가진다. 더 나아가, 조합적 하이퍼디터미넌트(combinatorial hyperdeterminant)의 계산이 NP‑, #P‑, VNP‑hard임을 증명함으로써, 이 문제는 단순한 결정 문제를 넘어 카운팅 복잡도와 대수적 복잡도 영역까지 확장된다.

전체적으로 이 논문은 “선형·볼록” 문제군이 갖는 효율적 알고리즘 가능성(예: 행렬 고유값, 특이값 분해)과 “비선형·비볼록” 문제군(예: 텐서 고유값, 랭크 결정) 사이의 경계가 텐서 차원에서 급격히 바뀐다는 근본적인 통찰을 제공한다. 이는 연구자들이 텐서 기반 모델을 설계할 때, 정확한 해를 구하려는 시도보다는 근사적·확률적 방법에 의존해야 함을 경고한다. 또한, 복잡도 이론과 수치 해석 사이의 교차점을 명확히 함으로써, 향후 알고리즘 설계, 복잡도 하한 증명, 그리고 실용적인 응용 분야에서의 기대치를 재조정하는 데 중요한 지표가 될 것이다.