정수 경계 전파의 복잡성

초록

본 논문은 제약 프로그래밍에서 수치 제약을 다루는 경계 전파가 변수 범위가 클 때 비효율적인 기존의 의사다항식 알고리즘을 대체할 강다항식 알고리즘의 존재 여부를 탐구한다. 저자는 이 문제를 NP‑complete로 규명함으로써, 이진 선형 제약만으로도 공통 경계 일관성 고정점을 강다항식 시간에 구하는 것이 불가능함을 증명한다.

상세 분석

경계 전파는 CP 시스템에서 “branch‑and‑prune” 절차의 핵심으로, 각 변수의 상하한을 반복적으로 좁혀 탐색 공간을 감소시킨다. 기존 연구에서는 이 과정이 변수 도메인의 크기에 선형에 가까운 의사다항식 시간으로 수행된다고 보고했으며, 실제 구현에서도 작은 정수 범위에서는 충분히 빠른 것으로 입증되었다. 그러나 변수의 도메인이 2^k 수준으로 커질 경우, 이러한 알고리즘은 실질적으로 지수적 비용을 초래한다는 점이 오래전부터 알려져 있다. 따라서 “강다항식”—즉, 입력 크기(제약 수와 변수 수)만을 기준으로 다항식 시간에 해결 가능한—알고리즘이 존재하는가가 핵심 질문이 된다.

저자는 먼저 경계 전파의 형식적 정의를 재정립한다. 각 제약은 변수들의 정수 선형 부등식 형태이며, 전파 연산자는 각 제약에 대해 현재 변수 상한·하한을 이용해 새로운 경계값을 계산한다. 전파 과정은 모든 제약에 대해 이러한 연산을 반복 수행하며, 더 이상 경계가 수축되지 않을 때 고정점에 도달한다. 중요한 점은 이 고정점이 “공통 경계 일관성”(common bound consistent)이라는 특성을 가진다.

논문의 핵심 기여는 이 고정점 계산 문제가 NP‑complete임을 증명한 것이다. 저자는 3‑SAT 문제를 정수 경계 전파 문제로 다항식 시간에 변환하는 감소 과정을 제시한다. 구체적으로, 각 논리 변수는 두 정수 변수 x_i와 ¬x_i 로 모델링하고, 이들에 대해 x_i + ¬x_i = 1이라는 이진 제약을 부여한다. 각 절(clause)은 0 ≤ x_i + x_j + x_k ≤ 2 형태의 이진 선형 제약으로 표현된다. 이러한 변환을 통해 SAT 인스턴스가 만족 가능한 경우와 경계 전파 고정점이 존재하는 경우가 일대일 대응함을 보인다. 따라서 경계 전파 고정점 존재 여부를 결정하는 것이 SAT 해결과 동등함을 증명한다.

특히 저자는 이 결과가 “이진 선형 제약만”을 사용해도 성립함을 강조한다. 즉, 변수당 두 개 이하의 계수를 갖는 제약(예: a·x + b·y ≤ c)만으로도 문제는 NP‑hard가 된다. 이는 기존에 “단순한” 제약이라면 강다항식 알고리즘이 가능할 것이라는 직관에 반한다.

또한 논문은 기존 의사다항식 알고리즘이 왜 이러한 복잡도 장벽을 피할 수 없는지를 이론적으로 설명한다. 의사다항식 알고리즘은 변수 도메인의 크기에 비례하는 반복 횟수를 필요로 하는데, 이는 위의 NP‑hard 인스턴스에서 도메인 크기가 지수적으로 커질 경우 실질적인 지수 시간으로 전락한다. 따라서 강다항식 알고리즘이 존재한다면 P=NP가 성립해야 함을 의미한다.

마지막으로 저자는 몇몇 제한된 서브클래스—예를 들어, 전부 양의 계수를 갖는 단조 제약이나 변수 간 독립성이 보장되는 경우—에 대해 강다항식 알고리즘이 가능함을 간략히 논의한다. 그러나 일반적인 이진 선형 제약 집합에 대해서는 이러한 특수 케이스가 적용되지 않으며, 실무 CP 시스템에서는 여전히 의사다항식 접근이 불가피함을 시사한다.