제한된 튜링 기계의 자기 인증과 ω‑체인에서의 최소 고정점

초록

본 논문은 시간 제한이 있는 튜링 기계가 자신의 정지 여부를 자체적으로 증명할 수 없음을 보이고, 이를 도메인 이론의 연산자 F 로 형식화한다. 연산자 F 를 반복 적용하면 부분 관측 함수들의 상승 ω‑체인이 생성되고, 그 스콧 극한은 연산자의 최소 고정점이 된다. 이 최소 고정점은 무한 시간 기계가 달성할 수 있는 완전한 정지 관측을 나타내며, 제한된 기계에서는 도달할 수 없음을 증명한다.

상세 분석

논문은 먼저 “자기‑정지 문제”를 시간 제한 T 하에 정의한다. 임의의 튜링 기계 A와 동일한 코드 ⟨A⟩를 입력으로 받아 A가 T 스텝 이내에 멈추는지를 판단하려면, 판단 기계 D는 A의 실행을 단계별로 시뮬레이션해야 한다는 사실을 Lemma 1에서 증명한다. 시뮬레이션 자체가 최소 T 스텝을 필요로 하고, 최종 판단을 위해 추가적인 한 스텝이 필요하므로 D는 최소 T + 1 스텝을 사용해야 함을 보인다. 이는 “+1 오버헤드”라는 형태의 자가‑대각화 논증으로, 제한된 자원 안에서는 자기‑인증이 불가능함을 의미한다.

다음으로 저자는 부분 관측 함수들의 집합 D 를 정의한다. 여기서 p(k)=1 은 k 스텝 이내에 정지함을, p(k)=0 은 아직 정지하지 않음을, p(k)=⊥ 은 아직 관측되지 않음을 나타낸다. 연산자 F:D→D는 현재 관측 p(k) 에 기반해 k+1 스텝의 정보를 한 단계 확장한다. 구체적으로 p(k)=⊥ 이면 F(p)(k+1)=⊥, p(k)=1 이면 F(p)(k+1)=1, p(k)=0 이면 M이 k+1 스텝에 정지하는지 여부에 따라 1 또는 0을 부여한다. 이 정의는 F 가 국소적이며, 따라서 스콧 연속임을 Proposition 1에서 증명한다. 연산자의 단조성은 입력 부분함수 p 가 더 많은 정보를 가질수록 출력도 더 많은 정보를 포함한다는 점에서 직관적으로 성립한다.

초기값 p₀=⊥ 에서 시작해 p_{i+1}=F(p_i) 를 반복하면, 각 단계 i 는 정확히 i 스텝까지의 정지 관측을 제공한다. 이렇게 얻어진 열 (p_i)_{i∈ℕ} 은 D 안에서 상승 ω‑체인을 형성한다. Kleene의 고정점 정리를 적용하면, 이 체인의 스콧 극한 p_ω 은 연산자 F 의 최소 고정점이 된다. 중요한 점은 p_ω 이 모든 유한 k 에 대해 정의되지만, 전체 함수를 유한 시간 안에 계산할 수 없다는 것이다. 즉, 각 p_i 는 시간 제한 i 내에 계산 가능하지만, 무한히 많은 단계의 합성은 시간 제한 ω를 필요로 하는 무한 기계만이 구현할 수 있다.

Theorem 1은 어떤 유한 시간 T 에 대해서도 B_T (시간 T 내에 계산 가능한 부분 관측 집합) 안에 고정점이 존재하지 않음을 보인다. 이는 F(p) 가 항상 한 단계 더 확장되기 때문에, 제한된 기계는 절대로 자기 자신을 완전히 관측할 수 없음을 의미한다. Theorem 2는 앞서 정의한 ω‑체인의 극한 p_ω 이 실제로 최소 고정점이며, 어떤 유한 T 에도 속하지 않음을 다시 확인한다.

마지막으로 Theorem 3은 전통적인 반결정성(halting problem)의 관점에서 이 구조를 해석한다. 프로그램이 실제로 멈추면 p_ω 의 어느 유한 단계에서 1 이 나타나므로, “멈춘다”는 사실은 유한히 검증 가능하다. 반면에 프로그램이 영원히 멈추지 않으면, 모든 유한 단계에서 0 만 관측되며, “멈추지 않는다”는 결론을 내리기 위해서는 무한히 많은 0 을 확인해야 한다. 이는 “+1 오버헤드”가 무한히 누적되는 상황과 동일하며, 제한된 기계가 부정적 결정을 내리려 하면 바로 대각화 모순을 재현하게 된다.

전체적으로 논문은 제한된 자원 하에서의 자기‑시뮬레이션이 불가피하게 발생하는 시간 오버헤드를 도메인 이론적 연산자로 포착하고, 그 연산자의 최소 고정점이 무한 기계에서만 달성될 수 있음을 증명한다. 이는 고전적인 대각화 논증을 연속적인 ω‑체인으로 재구성함으로써, 정지 문제의 반결정성을 새로운 관점에서 설명한다.