구면 위 다항식 최적화와 양자 디피니티 정리의 새로운 연결

초록

본 논문은 구면 위 다항식 최소화 문제에 대한 두 계층적 근사법인 moment‑sos와 spectral 방법을 비교·연계한다. moment‑sos는 $O(1/r^{2})$ 수렴률을, spectral 방법은 기존에 $O(1/r)$ 로 알려졌으나 실제 최적 수렴률은 $Ω(1/r^{2})$ 이하임을 보인다. 또한 실수형 “double” 대칭 행렬에 대한 새로운 banded de Finetti 정리를 제시하고, 이를 통해 상수 명시가 가능한 수렴 분석을 제공한다.

상세 분석

이 논문은 구면 $S^{n-1}$ 위에서 정의된 동차 다항식 $p(x)$의 최소값 $p_{\min }=\min_{|x|=1}p(x)$를 구하는 두 가지 SDP‑계층을 심도 있게 비교한다. 첫 번째는 전통적인 moment‑sos 계층으로, $r$‑차 SOS 표현 $p-\lambda=\sigma+u(1-|x|^{2})$ 를 이용해 $\lambda$ 를 최대로 하는 문제를 SDP 로 변환한다. Fang·Fawzi(2021)의 분석에 따르면, 최적해와의 차이는 $O(1/r^{2})$ 로 수렴한다. 핵심은 다항식 커널 $K_{r}(x,y)=(x^{\top}y)^{2r}$ 를 적절히 가중해 “정규화된” 커널을 구성하고, 이 커널 연산자를 이용해 SOS 다항식을 직접 구성함으로써 상수 $C(n,d)$ 를 명시적으로 제시할 수 있다는 점이다.

두 번째는 Lovitz·Johnston(2023)이 제안한 spectral 계층이다. 여기서는 $p-\lambda$ 를 “double” 대칭을 갖는 행렬 형태로 표현하고, 해당 행렬의 최소 고유값을 구하는 고유값 문제로 환원한다. 이때 사용되는 핵심 도구는 복소수 Hermitian 행렬에 대한 Christandl·et al.(2007)의 양자 디피니티 정리이다. 정리는 부분 트레이스가 $O(1/r)$ 오차로 separable 상태의 혼합으로 근사됨을 보이며, 이를 통해 $p_{\min }-s p_{r}(p)=O(1/r)$ 를 얻는다.

하지만 저자들은 두 정리 사이의 근본적인 차이를 밝혀낸다. 실수형 “double” 대칭 행렬에 대해 동일한 $O(1/r)$ 근사율을 기대하면, 실제로는 $Ω(1/r^{2})$ 이하의 하한이 존재한다는 반례를 구성한다(5‑변수 차수‑4 형태, Choi‑Lam 예시 활용). 이는 spectral 계층이 일반적인 경우에 $O(1/r)$ 보다 더 빠른 수렴을 보장하지 못함을 의미한다. 또한, 일반적인 다항식에 대해 spectral 계층이 유한 단계에서 정확히 수렴하는 경우가 거의 없으며, 이는 “generic finite convergence” 가 성립하지 않음을 증명한다(정리 5.14).

이와 더불어 저자들은 실수형 “double” 대칭 행렬에 대한 새로운 “banded” de Finetti 정리를 제시한다. 기존 복소수 정리와 실수형 최대 대칭 정리 사이의 중간 형태로, 부분 트레이스가 “banded” 구조를 유지하면서 $O(1/r)$ 오차로 separable 행렬에 근사됨을 보인다. 이 정리를 직접 적용하면, 복소수 변환 없이도 spectral 계층의 $O(1/r)$ 수렴률을 재현할 수 있으며, 동시에 상수 $\gamma(Q(p))$ 대신 다항식의 값 범위 $p_{\max }-p_{\min }$ 로 표현되는 보다 직관적인 오류 상수를 얻는다(정리 5.5, 5.7).

결과적으로, 논문은 moment‑sos와 spectral 계층이 서로 이중적인 듀얼 관계에 있음을 강조한다. SOS 계층은 듀얼 측면에서 “moment” 측정자를 제공하고, spectral 계층은 해당 측정자의 특정 SOS 표현을 고유값 형태로 압축한다. 두 접근법 모두 다항식 커널 방법에 크게 의존하지만, 커널 선택과 대칭 구조에 따라 수렴률과 계산 복잡도가 달라진다. 특히, 실수형 문제에 대한 양자 디피니티 정리의 한계와 새로운 banded 정리의 가능성을 제시함으로써, 향후 실수형 양자 정보 이론 및 고차원 최적화 분야에 중요한 이론적 토대를 제공한다.