동형연속법을 활용한 행렬식 시스템의 효율적 해법

초록

본 논문은 행렬식 마이너와 다항식 제약으로 정의되는 과잉결정(deteminantal) 시스템의 고립점 개수를 행과 열의 최고 차수에 기반해 상한을 제시하고, 이러한 구조를 이용한 확률적 동형연속 알고리즘을 설계한다. 제시된 알고리즘은 입력 크기와 위에서 정의한 상한에 대해 다항 시간 복잡도를 보이며, 특히 최적화 문제에서 나타나는 야코비안 행렬 형태에 최적화된 성능을 제공한다.

상세 분석

논문은 먼저 K가 특성 0인 체이고 K̅가 그 대수적 폐포임을 가정한다. 변수 n개의 다항식 X₁,…,Xₙ 위에 p×q( p≤q) 행렬 F와 s개의 다항식 G=(g₁,…,g_s)를 두고,
Vₚ(F,G)= { x∈K̅ⁿ | rank F(x)<p ∧ g₁(x)=…=g_s(x)=0 }
이라는 과잉결정 대수집합을 정의한다. 여기서 n는 q−p+s+1 로 고정되며, 이는 Macaulay‑Eagon‑Northcott 이론에 따라 일반적인 경우 Vₚ(F)가 0차원(고립점)임을 보장한다.

핵심 이론적 기여는 두 종류의 차수 측정값, 즉 행 차수 rdeg(F,i)=max_j deg f_{i,j}와 열 차수 cdeg(F,j)=max_i deg f_{i,j}를 도입하고, 이를 이용해 고립점의 총 중복도(다중성)의 상한을 두 식으로 제시한다.

• 열 차수 기반 상한: c = (∏{k=1}^s deg g_k)·E{n−s}(cdeg(F,1),…,cdeg(F,q))
• 행 차수 기반 상한: c₀ = (∏{k=1}^s deg g_k)·S{n−s}(rdeg(F,1),…,rdeg(F,p))
  여기서 E_k와 S_k는 각각 기본 대칭 다항식과 완전 대칭 다항식이다. 두 상한 중 최소값이 실제 고립점 총 중복도에 대한 최적 상한이 된다. 특수 경우(모든 차수가 동일)에는 두 식이 일치하여 간단히 (∏deg g_k)·(q choose p−1)·d^{n−s} 형태가 된다.

알고리즘적 측면에서는 입력을 “직선 프로그램”(덧셈·뺄셈·곱셈의 순차 연산)으로 모델링한다. 프로그램 길이 σ는 행렬·다항식의 계수를 생성하는 비용을 정확히 반영한다. 논문은 두 가지 확률적 동형연속 절차를 제시한다. 첫 번째는 열 차수 기반 상한 c를 이용하고, 두 번째는 행 차수 기반 상한 c₀를 이용한다. 각각의 복잡도는

Õ( q^p·c·(e + c⁵)·σ + q·δ + γ ) 혹은
Õ( q^p·c₀·(e₀ + c₀⁵)·σ + p·α + γ )

형태이며, 여기서 δ, α는 각각 최대 열·행 차수, γ는 최대 g_i 차수, e, e₀는 (deg g_i+1)·…·(deg g_s+1)에 기본 대칭 다항식 차수를 더한 값이다. 모든 차수가 ≥2인 일반적인 상황에서는 e ≤ c², e₀ ≤ c₀², 그리고 q^p·c ≤ c·c⁰ 등으로 복잡도가 입력 크기와 고립점 상한에 대해 다항적으로 축소된다.

또한 “단순점”(simple points)이라는 개념을 도입한다. 이는 Jacobian이 전순위(full rank)를 가지는 고립점으로, 실제 최적화 응용에서 가장 관심 있는 해이다. 문제 2는 이러한 단순점을 찾는 것으로, 복잡도는 문제 1보다 약간 개선된 형태를 갖는다.

알고리즘은 기존 동형연속 기법(Shub‑Smale, Morgan‑Sommese‑Wampler 등)을 행렬식 구조에 맞게 특화한다. 특히, 과잉결정 시스템은 일반적인 스퀘어 시스템보다 방정식 수가 더 많지만, determinantal ideal의 특성(예: Gröbner basis가 과잉결정에서도 빠르게 수렴) 덕분에 효율적인 경로 추적이 가능하다. 논문은 기존의 다중동차, 다항형(Polyhedral) 희소성 기법과는 차별화된, 행·열 차수에 직접 의존하는 복잡도 분석을 제공한다.

마지막으로, 확률적 성공 보장은 파라미터 공간의 특정 초평면(H)을 제외한 모든 선택에 대해 성립한다는 점을 명시한다. 이는 무작위 선택이 “일반 위치(generic)”를 보장함을 의미한다.

요약하면, 본 연구는 determinantal 시스템의 고립점 개수에 대한 새로운 조합적 상한을 제시하고, 이를 기반으로 입력 크기와 상한에 대해 다항 시간 복잡도를 갖는 실용적인 동형연속 알고리즘을 설계·분석하였다. 특히 최적화와 실수 대수기하학에서 자주 등장하는 야코비안·라그랑주 구조에 최적화된 성능을 보이며, 기존 Gröbner‑basis 기반 방법보다 더 나은 이론적·실험적 효율성을 기대한다.