최적 증명 시스템 부재와 하드 타우톨로지 탐색의 복잡성

초록

이 논문은 최적 명제 증명 시스템이 존재하지 않을 경우와 NP≠coNP 가 증명될 경우를 가정한 두 탐색 문제 Cert 와 Find 를 정의하고, 지수적으로 어려운 일방향 순열과 Nisan‑Wigderson 생성기의 증명 복잡도 가정을 이용해 이 문제들이 2^{O(k)} 시간 내에 해결될 수 없으며, 무한히 많은 k에 대해 해가 존재하지 않을 수도 있음을 보인다.

상세 분석

논문은 먼저 기존 결과인 “다항시간 알고리즘이 증명 시스템 P 에 대해 하드 타우톨로지를 생성한다는 것과 P 가 최적이 아님이 동치”라는 명제를 재정리한다. 여기서 ‘하드’란 P‑증명이 k 크기의 타우톨로지에 대해 k^{c} 크기의 증명으로는 증명되지 못함을 의미한다. 이를 바탕으로 저자는 두 새로운 검색 문제를 제시한다. 첫 번째인 Cert 은 입력으로 비결정적 회로 C (입력이 k 개인)을 받아, C 가 TAUT∩𝕜 을 정의하지 않음을 증명하는 증거(예: 반례 입력)를 찾는 문제이다. 두 번째인 Find 는 크기 k^{c₀} 이하의 타우톨로지 α 가 주어졌을 때, α 의 치환 인스턴스로부터 k^{c₁} 크기의 P‑증명으로는 증명되지 않는 크기 k 의 타우톨로지 β 를 생성하는 문제이다. 두 문제 모두 ‘하드’ 타우톨로지를 찾는 것이 목표이지만, 전자는 회로의 부정확성을 직접 보여주는 증거를 요구하고, 후자는 기존의 작은 타우톨로지를 이용해 새로운 하드 타우톨로지를 구성하도록 강제한다.

주요 기술적 도구는 지수적으로 어려운 일방향 순열(OWP)과 Nisan‑Wigderson(NW) 생성기이다. OWP 존재 가정 하에, 저자는 임의의 k‑입력 회로 C 에 대해 C 가 TAUT∩𝕜 을 구현한다면, NW 생성기의 출력이 C 의 행동을 시뮬레이션하는 방식으로 구성될 수 있음을 보인다. 이때 NW 생성기의 ‘증명 복잡도’가 충분히 높다면, C 가 실제로 TAUT∩𝕜 을 구현하지 못한다는 증거를 2^{O(k)} 시간 안에 찾는 것이 불가능함을 증명한다. 즉, Cert  문제는 지수 시간 이하의 알고리즘으로는 해결될 수 없다는 강력한 하한을 얻는다.

다음 단계에서는 NW 생성기의 증명 복잡도에 대한 더 강한 가정을 도입한다. 구체적으로, NW 생성기의 출력에 대해 어떤 고정된 증명 시스템 P 가 다항 크기의 증명으로는 그 출력을 부정할 수 없다는 ‘증명 난이도’ 가정이다. 이 가정 하에, 저자는 두 문제 모두 ‘부분적으로 정의되지 않는다’는 결과를 얻는다. 즉, 무한히 많은 k 에 대해, 입력 1^{(k)} 또는 특정 α 가 주어졌을 때, 요구되는 하드 타우톨로지 β 또는 증거가 존재하지 않는다. 이는 최적 증명 시스템이 존재하지 않을 경우, 하드 타우톨로지의 존재 자체가 ‘전역적으로’ 보장되지 않을 수 있음을 시사한다.

논문은 또한 NW 생성기를 ‘증명 시스템’으로 해석하는 새로운 관점을 제시한다. 전통적으로 NW 생성기는 난수 생성 및 복잡도 구분에 사용되었지만, 여기서는 생성기의 각 출력이 일종의 ‘증명’으로 간주되고, 그 증명의 길이가 제한될 때 어떤 명제가 증명될 수 없는지를 분석한다. 이 해석을 통해, 증명 시스템 P 가 최적이 아니라면, NW 생성기의 특정 출력에 대해 P‑증명이 존재하지 않음이 보장되고, 이는 곧 Cert 과 Find 의 무해성(unsolvability)과 연결된다.

결과적으로, 논문은 (1) Cert 과 Find 이 지수 시간 이하의 알고리즘으로는 일반적으로 풀 수 없으며, (2) 강한 증명 복잡도 가정 하에 이 두 문제는 무한히 많은 입력에 대해 해답이 존재하지 않을 수도 있음을 증명한다. 이는 최적 증명 시스템 부재와 NP≠coNP 가정이 실제 알고리즘적·증명론적 한계와 어떻게 연결되는지를 명확히 보여준다.