다항시간 비결정론적 튜링 기계 시뮬레이션을 통한 NP와 coNP 구분 시도

초록

본 논문은 임의의 양의 정수 k에 대해 O(n^k) 시간으로 동작하는 비결정론적 튜링 기계가 받아들이는 언어 Lₛ 가 coNP 머신으로는 인식되지 않으며, 동시에 Lₛ 는 NP 에 속한다는 주장을 제시한다. 이를 통해 NP ≠ coNP 를 증명하고, P ≠ NP, Frege 증명 시스템의 다항 상한 불가능성 등 여러 파급 효과를 도출한다. 또한, 특정 오라클 A 하에서 P^A ≠ NP^A = coNP^A 인 경우 coNP^A 머신 집합이 열거 불가능하다는 ‘상대화 장벽’ 결과를 제시한다.

상세 분석

논문은 “모든 다항시간 비결정론적 튜링 기계는 열거 가능하다”는 전제와, 특정 언어 Lₛ 가 NP 에 속하면서 coNP 에 속하지 않는다는 주장 사이에 논리적 비약이 존재한다는 점에서 근본적인 오류가 있다. 먼저, 저자는 “시뮬레이션 기법”을 이용해 Lₛ 를 구성한다고 주장하지만, 구체적인 기계 설계나 증명 단계가 전혀 제시되지 않는다. 특히, Lₛ 가 coNP 에 속하지 않음을 보이기 위해서는 coNP 머신이 Lₛ 의 보완을 다항시간 비결정론적으로 검증할 수 없음을 증명해야 하는데, 논문은 이를 “보통 시뮬레이션 기법”만으로 해결한다는 모호한 설명에 머문다. 이는 복잡도 이론에서 가장 어려운 ‘대각선 논증’이나 ‘인증 구조’ 분석을 회피한 것으로, 기존에 알려진 불가능성 결과와 모순된다.

또한, “Lₛ ∈ NP”임을 보이는 절에서는 단순히 존재성을 주장할 뿐, 실제 비결정론적 인증서와 검증 알고리즘을 명시하지 않는다. 복잡도 클래스 사이의 포함 관계를 주장할 때는 다항시간 검증 절차를 명확히 제시해야 하는데, 논문은 이를 생략하고 “새로운 기술”이라는 포괄적 표현에 의존한다.

오라클 상대화 부분에서도 문제점이 두드러진다. 저자는 BGS75 결과를 인용해 NP^A = coNP^A 인 오라클 A 가 존재함을 언급하지만, 이후 “P^A ≠ NP^A = coNP^A”라는 가정 하에 coNP^A 머신 집합이 열거 불가능하다는 결론을 끌어낸다. 그러나 열거 가능성은 기계의 정의와 인코딩 방식에 따라 달라지며, 이미 알려진 결과에 따르면 모든 결정론적·비결정론적 튜링 기계는 열거 가능하다. 따라서 이 주장 역시 증명 없이 단정된 것으로, 상대화 장벽을 “깨는” 것이 아니라 기존 이론을 오해한 것으로 보인다.

마지막으로 Frege 증명 시스템에 대한 하한 결과는 “다항 상한이 존재하지 않는다”는 결론을 내리지만, 현재 알려진 최선의 하한은 아직 초다항 수준이며, 다항 상한 불가능성을 증명하려면 증명 복잡도 이론의 깊은 구조적 분석이 필요하다. 논문은 기존의 증명 복잡도 연구(예: Razborov, Krajíček 등)의 결과를 무시하고, “새로운 기술”이라는 미확인 방법에만 의존한다.

요약하면, 논문은 핵심 정리들의 증명을 전혀 제공하지 않으며, 기존 복잡도 이론과 상충되는 주장을 무리하게 전개한다. 시뮬레이션, 열거 가능성, 오라클 상대화, 증명 시스템 하한 등 각각의 영역에서 충분히 검증된 이론적 토대가 결여된 채 “새로운 기술”이라는 포괄적 용어에 의존하고 있다. 따라서 현재의 복잡도 이론 관점에서 볼 때, 논문의 주요 결과는 신뢰할 수 없으며, 검증 가능한 수학적 증명이 요구된다.