대칭과 비가산성: 계산 복잡도에 대한 새로운 시각

초록

본 논문은 “테스팅 문제”라는 일반적 프레임을 도입해 P‑완전과 NP‑완전 문제를 구분하고, 데이터의 대칭·순서 구조에 따라 “정돈 문제”(Orderly Problem)와 “혼돈 문제”(Chaotic Problem)를 정의한다. 정돈 문제는 대칭성을 이용해 탐색 공간을 효과적으로 축소할 수 있어 P‑완전으로, 혼돈 문제는 심볼을 집합으로 취급해야 하므로 탐색 공간을 제한할 수 없어 NP‑완전으로 귀결한다. 최종적으로 두 문제의 시간 복잡도를 분석해 P ≠ NP 를 주장한다.

상세 분석

이 논문은 먼저 “테스팅 문제(testing problem)”라는 개념을 도입한다. 테스팅 문제는 입력이 주어졌을 때, 특정 조건을 만족하는지 여부를 판단하는 일반적인 결정 문제로, P와 NP 사이의 경계를 탐구하기 위한 출발점으로 설정된다. 저자는 이 프레임워크를 이용해 P‑complete와 NP‑complete의 구분 조건을 제시한다는 점에서 흥미롭지만, 실제로는 기존 복잡도 이론에서 이미 알려진 정의와 거의 동일한 형태를 반복하고 있다. 특히, “조건”이 무엇인지, 어떻게 형식화되는지에 대한 명확한 정의가 부족해 독자가 논리적 흐름을 따라가기가 어렵다.

다음으로 제시된 “정돈 문제(Orderly Problem)”와 “혼돈 문제(Chaotic Problem)”는 각각 데이터의 대칭성(symmetry)과 비가산성(uncountability)이라는 두 가지 속성을 강조한다. 정돈 문제는 입력 심볼들이 일정한 순서와 대칭 구조를 갖고 있어, 결정적 튜링 머신(DTM)이 대칭성을 활용해 가능한 심볼 조합을 효과적으로 제한할 수 있다고 주장한다. 여기서 저자는 “심볼을 제한한다”는 표현을 구체적인 알고리즘적 메커니즘 없이 추상적인 개념으로만 남겨 두었다. 예를 들어, 대칭성을 이용해 탐색 트리를 가지치기 하는 방법이나, 그룹 이론적 관점에서 동치 클래스(equivalence class)를 정의하는 절차가 제시되지 않는다. 따라서 정돈 문제가 실제로 P‑complete임을 증명하기 위해서는 보다 엄밀한 다항 시간 환원(reduction) 과정을 제시해야 한다.

반면 혼돈 문제는 입력 심볼을 “집합으로 취급”해야 하며, 이는 탐색 공간이 지수적으로 폭발한다는 의미로 해석된다. 저자는 이 현상을 “비가산성”이라고 명명하고, DTM이 가능한 심볼을 제한할 수 없으므로 문제는 NP‑complete이라고 결론짓는다. 그러나 “비가산성”이라는 용어는 집합론에서 셈할 수 없는 무한 집합을 의미하는데, 여기서는 유한 입력 길이의 결정 문제에 적용하기에 부적절하다. 또한, 혼돈 문제가 실제로 NP‑complete임을 보이기 위해서는 알려진 NP‑complete 문제(예: SAT)로부터 다항 시간 환원이 필요하지만, 논문에서는 이러한 환원 과정을 전혀 제시하지 않는다.

마지막으로 저자는 두 문제의 시간 복잡도를 “명확히” 분석했다고 주장한다. 정돈 문제에 대해서는 “대칭성을 이용해 탐색을 제한한다”는 논리만 제시되고, 구체적인 시간 상한 Θ(n) 혹은 O(n^k) 형태의 증명이 결여되어 있다. 혼돈 문제에 대해서는 “심볼을 집합으로 다루어야 하므로 탐색이 지수적으로 늘어난다”는 설명만 있을 뿐, 실제로 O(2^n) 혹은 O(n!)와 같은 상한을 도출하지 않는다.

결과적으로 논문은 P ≠ NP 를 주장하지만, 기존 복잡도 이론에서 요구되는 엄밀한 증명 구조—정의, 정리, 증명, 환원—를 충족시키지 못한다. 특히, “대칭”과 “비가산성”이라는 용어를 새로운 복잡도 구분 기준으로 도입하려면, 그 수학적 정의와 알고리즘적 구현을 명확히 해야 한다. 현재 형태로는 아이디어 수준의 제안에 머무르며, 학계에서 받아들여질 수준의 논증을 제공하지 못한다는 평가가 타당하다.