불일치 양화와 선택 사상: 무한 하강과 자기 평가의 모순

초록

이 논문은 자유변수 원시 재귀 이론과 그 부분함수 확장 위에 중간역 선택 사상을 구축하고, μ-연산자를 이용해 최소 양화 확장 Q의 일관성을 검토한다. ω^ω의 사전순을 잘 정렬로 강제하면 비무한 하강 스키마 π가 등장하고, 이를 포함한 카테시안 부분체계는 자체 코드 평가가 가능해지지만, 대각 논법에 의해 모순이 도출된다. 결과적으로 Q와 ZF 모두 일관성을 잃는다.

상세 분석

논문은 먼저 자유변수(Free‑Variable) 체계인 원시 재귀(Primitive Recursion, PR) 이론을 범주론적 관점에서 재구성한다. 여기서 ‘중간역(middle‑inverse)’ 선택 사상은 전통적인 선택 공리와는 달리, μ‑재귀를 통해 정의된 부분함수의 역을 제공한다는 점에서 핵심적이다. 저자는 PR 위에 술어 추상화(predicate abstraction)를 허용한 부분 PR(Partial‑PR) 이론을 도입하고, 이 이론 안에서 정의된 μ‑연산자를 이용해 존재(∃) 정의를 형식화한다. 중요한 정리는 Q라는 최소 양화 확장이 이러한 μ‑연산자를 그대로 상속받으며, PR 술어에 대해서는 부분 PR 이론의 μ와 완전히 일치한다는 것이다. 이는 선택 사상이 실제로는 전통적인 선택 공리 없이도 존재함을 보이는 강력한 증거가 된다.

다음 단계에서는 ω^ω(자연수의 순열 집합)에 사전순(lexicographical order)을 부여하고, 이를 ‘유한 하강(finite descent)’이라는 공리로 강제한다. 이 공리는 ω^ω가 잘 정렬(well‑order)임을 선언함으로써, 무한 귀환을 차단하고 모든 하강 과정이 유한 단계에서 종료함을 보장한다. 이러한 전제 하에 저자는 비무한 PR‑반복 하강 스키마(π)를 도입한다. π는 전통적인 무한 귀환을 대체하는 새로운 반복 원리를 제공하며, 이는 이전 논문 RCF2에서 제시된 카테시안 PR 이론 πR을 확장한다.

πR의 핵심 구조는 ‘코드 자체 평가(code self‑evaluation)’이다. 부분 PR 이론에서는 코드 평가가 부분적으로만 정의되지만, 저자는 Q+wo(ω^ω) 위에 적절한 카테시안 서브시스템을 선택함으로써 이 평가를 전역적으로(total) 확장한다. 구체적으로, 각 PR 프로그램을 자연수 코드로 인코딩하고, 그 코드를 입력받아 동일한 서브시스템 내에서 다시 실행하도록 하는 메타‑함수를 구성한다. 이 메타‑함수는 자기 참조를 허용하므로, 고전적인 대각화(diagonalization) 논법을 적용할 수 있다.

대각화 단계에서는 “이 프로그램은 자신을 입력으로 받았을 때 거짓을 반환한다”는 형태의 반증 프로그램을 구성한다. 만약 서브시스템이 일관되게 자기 평가를 수행한다면, 해당 반증 프로그램은 동시에 참과 거짓을 반환하게 되어 모순이 발생한다. 따라서 해당 카테시안 서브시스템은 일관성을 가질 수 없으며, 그 위에 구축된 Q+wo(ω^ω)와 그 확장인 ZF 역시 일관성을 잃는다. 이 결과는 선택 사상과 μ‑연산자를 통한 양화 확장이 잘 정렬 가정과 결합될 때, 기존 집합론 체계의 일관성을 위협할 수 있음을 시사한다.

전체적으로 논문은 (1) 범주론적 PR 이론에서 중간역 선택 사상의 존재, (2) μ‑연산자를 통한 존재 정의의 일치성, (3) ω^ω의 잘 정렬 강제와 비무한 하강 스키마 π, (4) 카테시안 서브시스템에서의 전역 자기 평가, (5) 대각화에 의한 모순 도출이라는 다섯 축을 체계적으로 연결한다. 특히, ‘유한 하강’이라는 새로운 공리를 도입함으로써 전통적인 무한 귀환을 배제하고, 그 위에 구축된 자기 평가 메커니즘이 일관성 파괴를 초래한다는 점은 기존 일관성 증명 전략에 대한 중요한 반론을 제공한다.