Hilbert 프로그램과 무한성: ε‑대체법의 두 얼굴

초록

Hilbert는 무한한 양화자를 ε‑항으로 대체해 형식 증명을 유한적 체계로 변환하고, 그 변환이 항상 종료함을 보이려 했다. 그러나 변환의 종결성을 증명하기 위해서는 순서표기법에 대한 귀납을 이용한 초월적(무한) 메타‑논증이 필요해, 무한성을 완전히 배제하지 못한다는 점을 논한다.

상세 분석

이 논문은 Hilbert 프로그램의 핵심 목표인 “무한을 배제한 일관성 증명”을 구체적인 형식 체계와 ε‑대체법을 통해 재구성한다. 먼저 Hilbert가 제시한 두 단계, 즉(1) 수학을 ε‑계산법을 포함한 형식화와(2) ε‑대체법으로 모든 증명을 무한자를 포함하지 않는 ‘실제’ 부분 체계(양화자·ε‑항이 없는 산술)로 변환하는 과정을 상세히 설명한다. ε‑항은 존재·전칭 양화자를 대체하는 특수 항으로, “임의의” 객체를 선택하도록 설계되었으며, 이를 통해 양화자를 완전히 없앨 수 있다. 그러나 ε‑항 자체가 ‘이상적 요소’이므로, ε‑대체법이 성공하려면 모든 ε‑항을 구체적인 수(또는 0)로 교체하고, 교체 과정이 무한히 반복되지 않음을 보장해야 한다.

논문은 이 보장을 위해 ‘비판 공식(critical formula)’을 도입한다. 비판 공식은 ε‑항이 등장하는 두 종류(첫 번째는 A(t)→A(εxA(x)), 두 번째는 A(t)→εxA(x)<t′)이며, 이들만이 무한성을 내포한다. 변환 과정은 모든 비판 공식을 순차적으로 해소하면서, 각 단계에서 새로운 ε‑항을 더 작은 수로 교체한다. 이때 핵심은 “가장 작은 증인”을 찾는 과정인데, 이는 자연수의 최소 원리를 이용한다.

하지만 이러한 최소 증인 탐색과 변환 과정의 종결성을 증명하기 위해서는 ‘순서표기법에 대한 귀납’이라는 초월적 수단이 필요하다. 구체적으로는 ε‑항 교체가 무한히 진행될 경우를 방지하기 위해, 각 단계에 순서표기(ordinal) 값을 부여하고, 그 값이 감소함을 보이는 귀납적 논증을 전개한다. 이는 Hilbert가 추구한 ‘유한적’ 메타‑논증과는 달리, 실제로는 무한한 구조(순서표기)를 활용한다는 점에서 프로그램의 한계를 드러낸다.

또한 논문은 Ackermann와 Bernays가 제시한 초기 ε‑대체법과 Moser, Tait 등 현대 연구들을 비교하면서, 초기 방법이 실제로는 ‘구성적’이지만 ‘간접적’인 부정 명제 증명을 사용한다는 점을 지적한다. 즉 “¬0=0이 증명될 경우 모순이 발생한다”는 가정을 통해 귀류법을 적용하지만, 이는 부정 명제의 증명을 ‘양성 명제’로 전환하는 과정에서 메타‑수학적 무한성을 숨긴다.

결과적으로, 논문은 Hilbert 프로그램이 무한성을 완전히 배제하려는 시도에도 불구하고, 일관성 증명의 메타‑수준에서는 순서표기와 같은 무한 구조를 필연적으로 도입해야 함을 명확히 보여준다. 이는 Hilbert 프로그램이 ‘무한을 없애는’ 것이 아니라 ‘무한을 다른 형태로 전이시키는’ 전략임을 시사한다.