P와 NP의 관계에 대한 허구적 접근: 무한 절단과 FEXP 복잡도

초록

본 논문은 절단된 입력 집합을 무한히 늘려가면 다항 시간 알고리즘이 반드시 모든 입력을 검사해야 한다는 주장을 전개한다. 이를 바탕으로 “P = NP를 증명하려면 입력 집합을 다항 개수만 검사하는 최적화가 필요하다”는 명제를 제시하고, 이러한 최적화를 찾는 문제는 FEXP 클래스에 속한다는 결론을 내린다. 최종적으로 P ≠ NP임을 주장한다.

상세 분석

이 논문은 전통적인 P vs NP 논쟁에 새로운 관점을 제시한다는 명목 아래, “절단된 입력 집합의 수가 무한히 커질 때 다항 시간 알고리즘은 입력을 무한히 많이 처리해야 한다”는 가정을 중심으로 전개된다. 그러나 이 가정 자체가 논리적·수학적 근거가 부족하다. 먼저 저자는 K‑SAT 문제의 절대적인 입력 수를 2^{kn}이라 정의하고, 이를 “입력 집합을 평가당 한 번만 처리할 수 있다”는 결정적 튜링 기계의 제한과 결합한다. 이때 r(n)=2^{kn}·t(n) 형태의 식을 도출하는데, 여기서 t(n)은 다항 시간 함수라고 가정한다. 하지만 r(n)이 무한대로 발산한다는 사실은 단순히 입력 공간이 지수적으로 커짐을 의미할 뿐, 다항 시간 알고리즘이 반드시 모든 입력을 일일이 검사해야 함을 증명하지 않는다. 실제로 다항 시간 알고리즘은 입력을 압축하거나 구조적 특성을 이용해 전체 공간을 탐색하지 않고도 해를 찾을 수 있다(예: 2‑SAT, 매칭, 최대 흐름 등). 논문은 이러한 기존 알고리즘들의 존재를 무시하고 “입력 집합을 전부 검사하지 않으면 해를 찾을 수 없다”는 전제를 무비판적으로 받아들인다.

또한 논문은 “P = NP를 증명하려면 입력 집합을 다항 개수만 검사하는 최적화가 필요하다”는 정리를 제시한다(정리 4.4). 이 정리는 사실상 “P = NP이면 다항 시간 알고리즘이 존재한다”는 정의와 동치이며, 새로운 정보를 제공하지 않는다. 더 나아가 저자는 이러한 최적화를 찾는 문제를 FEXP(지수 시간 함수의 함수) 클래스에 속한다고 주장한다. 그러나 FEXP는 일반적으로 “함수의 함수”를 의미하는 복잡도 클래스이며, 여기서 제시된 “대표적인 다항 검색 분할을 찾는 문제”가 실제로 FEXP에 귀속되는지에 대한 형식적 증명은 전혀 제시되지 않는다. 복잡도 이론에서 보통 사용되는 증명 기법(감소, 귀환, 혹은 회귀적 논증) 대신, 저자는 L’Hôpital 법칙을 이용해 지수 함수와 다항 함수의 성장률을 비교하는 수준의 초보적인 분석에 머물러 있다. 이는 복잡도 이론에서 요구되는 정밀한 상한·하한 분석과는 거리가 멀다.

논문의 전반적인 구조도 비논리적이다. 정의 2.1·2.2에서 튜링 기계의 결정론적·비결정론적 차이를 설명하면서도, 비결정론적 기계가 “동시에 모든 입력을 평가한다”는 오해를 낳는 표현을 사용한다. 이는 비결정론적 기계가 실제 물리적으로 모든 경로를 동시에 실행한다는 의미가 아니라, 존재하는 하나의 경로만을 찾으면 된다라는 개념을 왜곡한다. 또한 “입력 집합을 전부 검사하지 않으면 해를 찾을 수 없다”는 주장과 모순되는 예시(예: SAT의 경우 특정 리터럴 할당만으로 해를 찾을 수 있음)를 스스로 제시하면서도 이를 반박하지 않는다.

마지막으로 논문은 “P ≠ NP”를 결론짓지만, 그 증명은 위에서 지적한 가정과 논리적 비약에 전적으로 의존한다. 기존에 알려진 복잡도 이론의 주요 결과(예: NP‑완전성, 다항 시간 귀환, 혹은 상대론적 증명)와 전혀 연결되지 않으며, 새로운 정리나 귀납적 증거도 제시되지 않는다. 따라서 이 논문은 현재의 복잡도 이론에 실질적인 기여를 하지 못한다.