그래프 동형성 다항식 알고리즘을 무너뜨린 폴리토프 반례군

본 논문은 그래프 동형성 문제를 다항 시간 알고리즘으로 해결하려는 시도에서 등장한 두 폴리토프 Φₙ,ₙ와 Ψₙ,ₙ이 실제로 동일하지 않다는 사실을 명확히 증명한다. 1. **배경 및 정의** - Ωₙ은 n×n 이중확률 행렬(행·열 합이 1인 비음수 행렬) 집합이다. - Ψₙ,ₙ은 Ωₙ ⊗ Ωₙ의 텐서곱 A ⊗ B (A, B ∈ Ωₙ)들의 볼록껍질로 정의된다. 이는 모든 가능한 두 이중확률 행렬의 텐서곱을 포함한다. - Φₙ,ₙ는 Ωₙ²에 대해 일련의 선형 제약식(행·열 합이 1, 특정 교차합이 동일 등)으로 정의된 다각형이다. Friedland는 처음에 Ψₙ,ₙ ⊆ Φₙ,ₙ임을 보였고, 이후 두 집합이 동일하다고 주장했지만, 이후 버전에서는 “아마도 틀릴 것”이라고만 적었다. 2. **반례 구성 아이디어** - 순환 순열 ρ = (1 2 … n)와 임의의 순열 σ ∈ Sₙ을 선택한다. - 행렬 A는 첫 행을 (x₁,…,xₙ)이라 하고, 이후 행을 ρ를 반복 적용해 만든다. 즉, i번째 행은 ρ^{i‑1}가 적용된 (x₁,…,xₙ)이다. - 행렬 B는 첫 행을 σ가 적용된 (x₁,…,xₙ)으로 시작하고, 이후 행 역시 ρ를 반복 적용한다. 3. **Lemma 2.1** σ ρ σ⁻¹가 ρ가 생성하는 서브그룹 ⟨ρ⟩에 속하지 않는 경우는 정확히 n! − n·φ(n)개이다. 여기서 φ(n)은 오일러 토션트 함수이며, 이는 σ가 “ρ와 같은 주기 구조를 유지하지 않을” 경우를 의미한다. 4. **Lemma 2.2** 위와 같은 σ에 대해, 어떠한 순열 행렬 P, Q도 A = P B Q를 만족시키지 못한다. 증명은 B의 첫 두 행을 σ와 ρσ가 적용된 형태로 쓰고, 이를 P와 Q로 재배열하려 하면 σ⁻¹ ρ σ가 ρ^{j‑i}와 동일해야 하는데, Lemma 2.1에 의해 모순이 발생한다는 논리이다. 5. **행렬 T의 정의** - A와 B를 각각 열벡터 형태(b A, b B)로 전개한다. - n²×n² 행렬 T를 0과 1/n만을 원소로 갖게 구성하여 b A = T b B가 되도록 만든다. - 구체적인 예시(n=4, σ=(3 4))를 통해 T의 구조를 제시한다. T는 각 (i,j) 블록이 n×n 순열 행렬에 1/n을 곱한 형태이며, 이는 Φₙ,ₙ의 제약을 만족한다. 6. **T가 Φₙ,ₙ의 극점임을 증명** - T를 Φₙ,ₙ 안의 다른 점들의 양의 가중합으로 표현한다면, 각 블록 내 비영점은 동일한 순열 행렬이어야 한다. - 따라서 각 블록마다 동일한 순열 행렬에 스칼라 가중치가 곱해진 형태가 되며, 전체 가중치 행렬 Mₛ는 이중확률 행렬이면서 행·열이 모두 동일한 상수(1/n)이어야 한다. - 이는 Mₛ가 전부 1/n인 행렬 하나뿐임을 의미하고, 결과적으로 T는 더 이상 분해되지 않는 극점이다. 7. **T가 Ψₙ,ₙ에 속하지 않음** - 가정: T ∈ Ψₙ,ₙ이면 T = ∑ₛ wₛ (Pₛ ⊗ Qₛ) 형태가 가능해야 한다. - 이 경우, entry‑wise 부등식 T ≥ w₁ P₁ ⊗ Q₁가 성립하고, 이를 b B에 곱하면 A ≥ w₁ P₁ B Q₁가 된다. - Lemma 2.2에 의해 P₁ B Q₁는 A와 다르며, 두 행렬의 차이는 변수 x₁,…,xₙ 중 하나를 0, 다른 하나를 1로 설정함으로써 명시적으로 만들 수 있다. 따라서 가정이 모순이며, T는 Ψₙ,ₙ에 포함되지 않는다. 8. **결과 및 의의** - n ≥ 4에 대해, σ가 Lemma 2.1을 만족하는 경우가 무수히 많으며, 각각에 대응하는 T는 Φₙ,ₙ의 극점이지만 Ψₙ,ₙ에 속하지 않는다. - 따라서 Φₙ,ₙ ≠ Ψₙ,ₙ가 증명된다. - Babai와 Onn이 독립적으로 제시한 증거와, Ψₙ,ₙ 위에서의 선형 최적화가 NP‑complete 문제를 해결할 수 있다는 사실을 인용함으로써, Ψₙ,ₙ가 다항식 수의 부등식으로 정의될 가능성이 낮음을 강조한다. 9. **그래프 동형성에 대한 영향** - Friedland는 Φₙ,ₙ = Ψₙ,ₙ라면 그래프 동형성 문제를 선형계획법으로 다항 시간에 해결할 수 있다고 주장했지만, 본 반례는 그 전제가 잘못됐음을 보여준다. - 따라서 현재 알려진 바에 따르면, 그래프 동형성 문제를 폴리토프 기반 선형계획법만으로 P에 포함시키는 접근은 아직 유효하지 않다. 전체적으로, 논문은 폴리토프 이론과 그래프 동형성 사이의 미묘한 관계를 명확히 밝히며, Friedland의 초기 기대가 실제 수학적 구조와 충돌함을 설득력 있게 증명한다.