부분 계산 가능성의 정량적 탐구

초록

이 논문은 부분 알고리즘이 일정 비율(밀도 δ)로 입력을 처리할 수 있는 “부분 계산 가능” 함수들의 집합 FC(δ)를 정의하고, 효과적인 베어 카테고리와 측도 이론을 이용해 이 집합의 위상적·측도적 특성을 분석한다. 또한 임의의 컴퓨터블 복잡도 측정 β에 대해 정의되는 부분 복잡도 클래스가 효과적으로 희소함을 보이며, 무작위 오라클 A에 대해 NP^A는 E^A 안에서 효과적인 다항 측도 영이 아니지만, 동일한 오라클에 대해 “균등 비율”로 다항시간에 부분 결정 가능한 언어 클래스 UFP^A는 효과적인 다항 측도 영임을 증명한다. 이는 무작위 오라클 하에서 비결정성의 힘을 부분 결정으로는 보완할 수 없음을 의미한다.

상세 분석

논문은 먼저 “부분 계산 가능성”이라는 개념을 정형화한다. 유한 알파벳 Σ( |Σ|≥2 ) 위의 전함수 f: Σ*→{0,1}에 대해, 어떤 부분 알고리즘 M이 정의역의 어느 부분에서만 올바른 출력을 내놓을 수 있음을 허용한다. 이때 M이 정의된 입력들의 비율이 사전에 정해진 실수 함수 δ(n)≥0 (밀도 함수)보다 크게 유지될 경우 f를 “밀도 δ에서 부분 계산 가능”하다고 정의한다. 이렇게 얻은 전체 함수들의 집합을 FC(δ)라 명명한다.

FC(δ)의 위상적 성질을 살피기 위해 효과적인 베어 카테고리 개념을 도입한다. 저자들은 FC(δ)가 “효과적으로 두 번째 범주(second category)”에 속함을 증명한다. 즉, FC(δ)는 효과적인 방식으로 구성된 이제까지의 모든 희소(첫 번째 범주) 집합들의 합집합으로 표현될 수 없으며, 어느 정도 “풍부함”을 가진다. 반면, 복잡도 측정 β와 시간 제한 t(n) (예: 다항시간)으로 정의되는 “부분 복잡도 클래스”는 효과적인 첫 번째 범주, 즉 효과적으로 희소함을 가진다. 이는 일반적인 복잡도 클래스와 유사하게, 부분 알고리즘이 일정 비율만을 처리하더라도 전체 함수 공간에서 차지하는 비중이 작다는 것을 의미한다.

다음으로 무작위 오라클 A에 대한 상대화된 복잡도 이론을 논한다. Kautz와 Miltersen의 유명한 결과에 따르면, 무작위 오라클 A에 대해 NP^A는 E^A(엄격한 지수시간) 안에서 “효과적인 다항 측도 영”이 아니다. 즉, 무작위 오라클을 제공받으면 비결정적 다항시간 언어가 E^A 안에서 상당히 큰 비중을 차지한다.

저자들은 여기서 “균등 비율”이라는 추가 조건을 도입한다. 정의에 따르면, 알고리즘이 입력 길이 n마다 최소 δ·|Σ|^n개의 입력에 대해 올바른 답을 내놓아야 한다. 이를 만족하는 언어들의 집합을 UFP^A라 부른다. 주요 정리는 모든 오라클 A에 대해 UFP^A가 E^A 안에서 효과적인 다항 측도 영임을 보인다. 증명은 두 단계로 이루어진다. 첫째, 임의의 부분 알고리즘이 일정 비율을 유지하려면 그 비율을 보장하는 “밀도 함수”가 효과적으로 수렴해야 함을 보인다. 둘째, 이러한 수렴 조건을 만족하는 알고리즘들의 집합은 효과적인 첫 번째 범주에 속함을 베어 카테고리와 측도 이론을 결합해 증명한다.

결과적으로, 무작위 오라클 하에서는 비결정성(NP)과 부분 결정(프랙셔널 폴리노미얼) 사이에 근본적인 격차가 존재한다는 것이 확인된다. 부분 결정이란 개념을 도입하더라도, 오라클이 무작위일 경우 비결정적 다항시간의 힘을 완전히 억제할 수 없으며, 오히려 “균등 비율”이라는 강한 제한을 가해야만 측도적으로 무시할 수 있는 수준으로 만들 수 있다.

이 논문은 일반적인 복잡도 이론에 “부분 계산 가능성”이라는 새로운 관점을 도입함으로써, 기존의 복잡도 클래스와 측도·카테고리 이론 사이의 상호작용을 보다 정밀하게 분석한다. 또한, 무작위 오라클과 같은 극단적인 환경에서도 부분 결정과 비결정성 사이의 관계를 명확히 구분함으로써, 향후 복잡도 이론의 확장과 일반화에 중요한 통찰을 제공한다.