무작위성과 비결정성: 현대 계산이론의 교차점

초록

이 논문은 1960년대 이후 컴퓨터 이론에서 확산된 지수적 시간 알고리즘 배제와 그로 인한 수리논리와의 단절을 되짚는다. 무작위성 및 비결정성이라는 두 자유도가 계산 복잡도에 미치는 영향을 최신 연구들을 통해 조명하고, 다변량 저차 다항식, 다중선형 형태, 저주기 군 위의 푸리에 변환 등 공통된 수학적 도구가 어떻게 서로 다른 결과에 적용되는지를 보여준다. 특히 기존 결과를 강화한 새로운 정리를 제시한다.

상세 분석

논문은 먼저 1960년대 초반, 특히 Hartmanis와 Stearns가 제시한 지수시간 알고리즘의 배제 원칙이 수리논리와의 연결 고리를 끊어버린 역사적 배경을 설명한다. 이때부터 결정론적 모델과 무작위·비결정적 모델 사이에 존재하던 ‘갭’은 복잡도 이론의 핵심 난제 중 하나가 되었다. 저자는 이 갭을 메우기 위한 두 가지 주요 접근법, 즉 무작위성의 ‘강화’와 비결정성의 ‘제한’에 초점을 맞춘다.

첫 번째 흐름은 ‘Hardness‑vs‑Randomness’ 패러다임이다. 여기서는 고차 다항식 회로(예: ACC⁰)의 하드니스가 충분히 강하면, 그 하드니스를 이용해 무작위 알고리즘을 결정론적으로 시뮬레이션할 수 있음을 보인다. 논문은 특히 다중선형(polynomial)과 저차 다변량 다항식이 이러한 시뮬레이션에 핵심적인 역할을 함을 강조한다. 저차 다항식은 입력 비트들의 작은 집합에만 의존하는 구조를 가지므로, 이를 이용한 ‘pseudorandom generator’는 짧은 시드 길이로도 넓은 입력 공간을 커버한다.

두 번째 흐름은 비결정성의 제한, 즉 Nondeterministic Polynomial time(NP)와 그 상위 클래스인 MA, AM 사이의 관계를 탐구한다. 저자는 최근의 ‘Arthur‑Merlin’ 프로토콜 개선 결과를 인용하면서, 저주기 군(특히 Zₚ)의 푸리에 변환이 프로토콜의 사운드니스와 완전성을 분석하는 데 어떻게 활용되는지를 상세히 설명한다. 푸리에 계수의 절댓값이 작을수록 ‘cheating prover’가 성공할 확률이 급격히 감소한다는 사실은, 비결정성 모델을 제한하는 강력한 도구가 된다.

핵심 기여는 기존에 알려진 ‘ε‑biased set’과 ‘small‑bias generator’를 결합해, (1) 지수적 시간 알고리즘을 완전히 배제하면서도 (2) 무작위성 기반 복잡도 클래스를 결정론적 클래스와 거의 동등하게 만든 새로운 정리를 제시한다는 점이다. 구체적으로, 저자는 ‘다중선형 저차 다항식이 2⁻ⁿ⁄⁴ 이하의 오류율을 보장한다면, BPP = P’라는 강력한 형태의 정리를 증명한다. 이 정리는 기존의 ‘BPP ⊆ P/poly’와는 달리 비공식적인 어드미션 없이도 완전한 결정론적 시뮬레이션을 가능하게 한다.

마지막으로, 논문은 이러한 수학적 도구들이 서로 다른 분야—예를 들어, 회로 복잡도 하드니스, 암호학적 난수 생성, 그리고 통신 복잡도—에서 어떻게 동일한 구조적 패턴을 드러내는지를 메타 분석한다. 이는 앞으로 무작위성·비결정성 연구가 ‘공통된 다항식·푸리에 프레임워크’를 중심으로 통합될 가능성을 시사한다.