NP 증인의 해밍 근사 불가능성

초록

이 논문은 NP‑완전 언어의 증인(위증명) 문자열을 절반 이하의 해밍 거리만큼만 맞출 수 있는 다항시간 알고리즘이 존재하지 않음을 보인다. 특히 패딩 가능한 모든 NP‑완전 언어에 대해, P≠NP이면 n/2 + O(√(n log n)) 이하의 오차로 증인을 근사하는 알고리즘이 불가능함을 증명한다. 또한 3‑SAT, CLIQUE 등 자연스러운 검증기에 대해서는 n/2‑근사는 가능하지만 n/2 − n^ε 수준의 근사는 불가능함을 보이며, 무작위화된 알고리즘에 대해서도 유사한 한계를 제시한다.

상세 분석

논문은 먼저 “d(n)‑해밍‑근사 알고리즘”이라는 개념을 정의한다. 이는 입력 x가 언어 L에 속할 때, 다항시간 내에 어떤 문자열 a를 출력해 해밍 거리 |a − w| ≤ d(|w|) 를 만족하는 증인 w가 존재하도록 하는 알고리즘이다. 기존 연구에서는 P≠NP 가정 하에, 모든 NP‑완전 언어에 대해 d(n)=n/2 − n^{2/3+δ} 정도의 절반 이하 근사는 불가능함을 보였지만, 절반 바로 위의 오차에 대한 경계는 남아 있었다.

본 논문의 핵심 기여는 “패딩 가능한(paddable) NP‑완전 언어”에 대해, d(n)=n/2 + O(√(n log n)) 정도의 오차도 허용하면 근사 알고리즘이 존재하지 않음을 증명한 점이다. 이를 위해 저자들은 임의의 NP‑완전 언어 L에 대해, 인코딩을 통해 증인 길이를 정확히 조절할 수 있는 새로운 검증기 V′를 구성한다. V′는 원래 검증기 V에 추가적인 패딩 비트를 삽입하고, 이 비트를 이용해 “대칭” 구조를 만든다. 이렇게 하면 어떤 후보 a가 실제 증인 w와 절반 이상 일치한다면, a의 보완 문자열도 역시 동일한 검증을 통과하게 되며, 이는 두 개의 서로 다른 증인이 존재한다는 모순을 초래한다.

증명의 핵심 단계는 “볼록성(Convexity)와 평균‑제자리(average‑case) 하드니스”를 이용해, 임의의 다항시간 알고리즘이 n/2 + c·√(n log n) 이하의 거리로 증인을 맞출 확률을 지수적으로 낮출 수 있음을 보이는 것이다. 여기서 c는 충분히 큰 상수이며, Chernoff 경계와 정보이론적 인코딩 길이 논리를 결합해 확률적 하한을 도출한다.

또한 논문은 자연스러운 검증기, 예를 들어 3‑SAT의 변수 할당, CLIQUE의 정점 집합, SUBSET‑SUM의 선택 집합 등에 대해 별도의 분석을 제공한다. 이들 검증기는 원래 구조가 “대칭”이 아니므로 n/2‑근사는 가능하지만, n/2 − n^ε 수준의 근사는 P≠NP 가정 하에 불가능함을 보인다. 구체적으로, 각 문제에 대해 “반전(negation) 변환”을 정의하고, 이를 통해 증인의 절반을 뒤바꾸면 여전히 만족 조건을 위배하게 만든다.

마지막으로 무작위화된 알고리즘에 대해서도 동일한 경계를 확장한다. 저자들은 BPP ⊆ NP 라는 가정 하에, 무작위 알고리즘이 성공 확률 1/2 + 1/poly(n) 로도 n/2 + O(√(n log n)) 이하의 근사를 달성할 수 없음을 보인다. 이는 Yao의 최소-극대 원리를 이용해, 모든 확률적 알고리즘을 결정적 알고리즘의 분포와 비교함으로써 증명된다.

전체적으로 이 논문은 “절반 이상의 비트는 맞출 수 없다”는 직관을 정량적으로 강화하고, NP‑완전 문제의 증인 구조에 내재된 정보‑이론적 한계를 새롭게 조명한다.