내재적 불확실성으로 바라본 P와 NP의 구분

초록

본 논문은 물리학의 하이젠베르크 불확실성 원리를 컴퓨터 과학에 도입해, 프로그램 코드와 입력 데이터 사이의 구분이 모호해지는 ‘내재적 불확실성’을 가정한다. 이 가정 하에 모든 연산 결과에 신뢰도(confidence)를 부여하고, 무한히 높은 신뢰도를 얻기 위해서는 무한 시간(또는 무한 메모리)이 필요하다고 주장한다. 저자는 이러한 프레임워크에서 NP에 속하지만 P에는 속하지 않는 함수를 구성함으로써 P≠NP를 증명하고, 기존의 어려운 결정 문제들도 불확실성을 허용하면 다항 시간 알고리즘이 존재한다는 결론을 제시한다.

상세 분석

논문은 먼저 하이젠베르크의 불확실성 원리를 “컴퓨터가 동시에 프로그램 코드와 입력을 완벽히 구분할 수 없다”는 형태로 재해석한다. 이때 비트열을 두 부분 S₁, S₂로 나누어 어느 쪽이 코드이고 어느 쪽이 입력인지 모르는 상황을 ‘내재적 불확실성’이라 정의한다. 저자는 이 불확실성을 정량화하기 위해 엔트로피와 신뢰도 개념을 도입하고, 코드 비트 비율을 신뢰도의 척도로 삼는다.

핵심 주장인 “모든 출력은 불확실성을 내포하므로 절대적인 정답을 얻으려면 무한 시간이 필요하다”는 물리학적 비유에 불과하며, 계산 복잡도 이론에서 시간 복잡도는 입력 크기에 대한 상한을 의미한다는 점을 무시한다. 또한, ‘자기 계산(self‑computation)’이라 불리는 T(T(S)) 과정은 단순히 프로그램을 재귀적으로 호출하는 것이며, 이를 통해 신뢰도를 높인다는 논리는 실제 알고리즘 설계와는 무관한 추상적 가정에 불과하다.

논문은 P와 NP의 정의를 비공식적으로 서술하면서, 프로그램 코드의 크기가 복잡도에 영향을 미친다고 주장한다. 그러나 전통적인 튜링 기계 모델에서는 프로그램 자체가 고정된 유한 상태 전이표이며, 입력 길이만이 복잡도 분석의 변수이다. 코드 길이를 변수로 포함시키는 것은 기존 이론과 근본적으로 충돌한다.

또한, 저자는 “모든 NP‑complete 문제는 불확실성을 허용하면 다항 시간 알고리즘이 존재한다”는 결론을 내리지만, 구체적인 알고리즘이나 오류 확률에 대한 분석이 전혀 제시되지 않는다. 신뢰도와 오류율 사이의 수학적 관계를 명시하지 않은 채 ‘신뢰도가 높을수록 정답에 가까워진다’는 직관에만 의존한다.

결과적으로, 논문은 물리학적 메타포를 복잡도 이론에 부적절하게 적용하고, 핵심 증명(예: NP에 속하지만 P에 속하지 않는 함수의 존재) 없이 가정에 기반한 결론을 도출한다. 따라서 제시된 증명은 수학적으로 엄밀하지 않으며, 현재 알려진 P≠NP 증명 기준을 충족하지 못한다.