효과적 토포스에서 체완전 격자에 대한 고정점 정리의 붕괴

초록

효과적 토포스 내에 체완전하고 분배법칙을 만족하는 격자를 구성하고, 그 위에 단조이며 진행적인 자기함수를 정의했지만 고정점을 갖지 않음을 보였다. 따라서 전통적인 Bourbaki‑Witt 정리와 Tarski 고정점 정리가 구성주의적(토포스‑유효) 맥락에서는 증명되지 않음이 드러난다.

상세 분석

논문은 먼저 효과적 토포스(Effective Topos)의 내부 논리를 검토한다. 이 토포스는 실체적(constructive) 수학에서 흔히 사용되는 실체주의적 모델이며, 객체는 실효성(효율성) 조건을 만족하는 집합과 함수로 표현된다. 저자는 이 환경에서 “체완전(chain‑complete)”이라는 개념을 재정의한다. 전통적인 순서 이론에서 체완전 격자는 모든 전순서 체에 대해 상한을 갖는 격자를 의미하지만, 효과적 토포스에서는 상한의 존재 자체가 실효성(computability) 조건을 만족해야 한다는 추가 제약이 있다.

이러한 제약 하에 저자는 구체적인 분배 격자 L을 구성한다. L의 원소는 자연수와 특수한 무한 원소 ω의 조합으로 이루어지며, 순서는 부분집합 포함 관계와 동형 사상에 의해 정의된다. 중요한 점은 모든 전순서 체가 L 안에서 상한을 갖지만, 그 상한을 구하는 과정이 효과적으로 수행될 수 없다는 것이다. 즉, 상한 존재는 논리적으로 보장되지만, 실제 계산 가능한 함수로는 구현되지 않는다.

다음으로 저자는 L 위에 단조(monotone)이며 진행적(progressive)인 함수 f:L→L를 정의한다. f는 각 원소 x에 대해 f(x)=x∪{ω}와 같은 형태로, 항상 x보다 “크다”. 전통적인 고정점 정리에서는 이러한 함수가 최소 고정점을 갖는 것이 보장된다. 그러나 효과적 토포스 내부에서는 f가 고정점을 가질 수 없음을 보인다. 구체적으로, 가정에 의해 고정점 y가 존재한다면 y=f(y)=y∪{ω}가 되어 ω∈y가 되어야 하지만, 정의에 의해 ω는 언제나 새로운 원소로 추가되므로 모순이 발생한다. 따라서 고정점이 존재하지 않는다.

이 결과는 두 가지 중요한 함의를 가진다. 첫째, Bourbaki‑Witt 정리(모든 진행적 단조 함수는 고정점을 가진다)는 효과적 토포스에서는 증명될 수 없으며, 실제로 반례가 존재한다. 둘째, Tarski의 고정점 정리(체완전 격자에서 모든 단조 함수는 최소·최대 고정점을 가진다) 역시 같은 이유로 토포스‑유효성 범위에서는 성립하지 않는다. 이는 고전적 고정점 이론이 구성주의적 맥락에서 자동으로 옮겨올 수 없음을 명확히 보여준다.

마지막으로 저자는 이러한 부정 결과가 효과적 토포스 외에도 다른 내적 논리(예: 실효성 위주의 내적 집합론)에서도 유사하게 나타날 수 있음을 시사한다. 이는 고정점 정리의 구성주의적 해석에 대한 재검토와, 특히 컴퓨터 과학에서 프로그램 의미론 및 형식 검증에 사용되는 토포스 기반 모델링에 중요한 경고를 제공한다.