실용 컴퓨팅으로 이론 컴퓨터 과학을 앞당기다

초록

본 논문은 최신 실용 컴퓨팅 기술을 활용해 복잡도 이론과 알고리즘 연구에 새로운 증거와 하한을 제공하는 방법들을 조사하고, 선형 계획법을 이용한 SAT 하한 증명 아이디어와 회로 복잡도 연구를 위한 장기 프로그램을 제시한다.

상세 분석

이 논문은 “실용 컴퓨팅”이라는 두 가지 의미를 구분한다. 첫 번째는 ‘불가능하게 검증 가능한’ 증명, 즉 인간이 직접 검증하기엔 너무 방대한 계산을 필요로 하는 경우이며, 두 번째는 ‘현실적으로 검증 가능한’ 증명으로, 충분히 강력한 컴퓨터가 제한된 시간 안에 검증할 수 있는 형태를 말한다. 저자는 후자를 선호하며, 이를 통해 복잡도 이론의 핵심 문제들을 NP‑내부 혹은 그보다 약간 큰 클래스 안에서 다룰 수 있다고 주장한다.

특히 지수 알고리즘 분석에 컴퓨터를 활용하는 방법을 상세히 설명한다. 전통적인 재귀식 분석은 손으로 풀면 복잡도가 급격히 증가하고, 다변량 진행 측정(예: 정점 수와 간선 수)을 동시에 고려해야 할 때는 수식 자체가 손에 잡히지 않는다. 여기서 Eppstein의 “준볼록(quasi‑convex) 프로그램” 접근법을 도입해 다중 변수 재귀식을 선형 프로그램으로 변환하고, 최적의 가중치(α_i)를 자동으로 찾는다. 이 방법은 기존에 인간이 수작업으로 얻은 상수보다 훨씬 강력한 상수를 제공했으며, 실제로 Dominating Set, Maximum Independent Set, Minimum Vertex Cover 같은 문제에서 1.52ⁿ, 1.23ⁿ 수준의 개선된 지수 상수를 얻었다.

또한, 사례 분석(case‑by‑case) 방식으로 모든 가능한 입력에 대해 재귀 알고리즘이 지정된 시간 복잡도를 만족하는지를 컴퓨터가 전자동으로 확인하도록 하는 기법을 소개한다. Robson의 미공개 보고서와 그 후속 연구(FK, KK 등)에서 보듯, 복잡한 규칙 집합을 자동으로 탐색하고 새로운 단순화 규칙을 발견함으로써 SAT, MAX‑SAT 등에서 기존보다 빠른 알고리즘을 설계할 수 있었다.

논문의 핵심 제안은 선형 계획법(LP) 솔버를 이용해 SAT의 하한을 증명하는 새로운 프레임워크이다. 기존의 하한 증명은 주로 논리적 구조나 회로 깊이 제한에 의존했지만, 저자는 LP를 통해 “가능한 가중치 조합”을 탐색하고, 이를 통해 특정 형태의 회로가 일정 크기 이하에서는 만족 불가능함을 수치적으로 보여줄 수 있다고 주장한다. 이는 특히 작은 회로(예: 7×7 행렬 곱 회로)에서 새로운 하한을 찾는 데 유용할 것으로 기대된다.

마지막으로 회로 복잡도 연구를 위한 장기 프로그램을 제시한다. 여기서는 (1) 대규모 분산 컴퓨팅 자원을 활용해 수천 개의 작은 회로를 자동 생성·검증하고, (2) 자동화된 LP·SAT 솔버를 결합해 회로의 최소 크기 하한을 체계적으로 탐색하는 파이프라인을 구축한다는 목표다. 이러한 접근은 기존에 인간이 직접 설계해야 했던 “가젯”이나 “축소 규칙”을 자동화함으로써, 복잡도 이론의 여러 난제에 대한 실질적인 진전을 가능하게 할 것으로 기대된다.