브라우어 트리를 통한 일반화된 판정 가능성 연구

초록

이 논문은 구성적 수학과 동형 유형 이론(HoTT) 안에서 브라우어 순서를 이용해 “α‑판정 가능”이라는 새로운 개념을 정의한다. α‑판정 가능성은 기존의 판정 가능(1‑판정)과 반판정 가능(ω+1‑판정)을 포함하며, 이론적으로 이진 논리 연산·가산 합·가산 교에 대한 닫힘 성질을 조사한다. 주요 결과로는 α‑판정 가능 명제가 이진 합성(conjunction)에서는 항상 닫히고, 특정 형태의 α에 대해서는 이진 논리합(disjunction)에서도 닫힌다. 또한 각 P(i)가 반판정 가능일 때 전체 가산 교 ∀i P(i)는 ω²‑판정 가능, 가산 합 ∃i P(i)는 ω·3‑판정 가능(가산 선택을 가정하면 반판정 가능)임을 보인다. 모든 정리는 Cubical Agda로 형식화되었다.

상세 분석

이 연구는 기존의 “판정 가능(decidable)”과 “반판정 가능(semi‑decidable)”이라는 이분법을 넘어, 판정 가능성을 순서론적 단계로 세분화한다는 점에서 혁신적이다. 핵심 도구는 호모토피 유형 이론(HoTT)에서 정의된 브라우어 트리(Brouwer trees)이며, 이는 ‘zero’, ‘succ’, ‘limit’ 생성자를 갖는 순서형 자료구조이다. 특히 limit 생성자는 엄격히 증가하는 수열만을 허용함으로써, 유한·무한 여부를 결정가능하게 만든다(예: succ β는 β가 유한일 때만 유한). 이러한 설계 덕분에 ‘α ≤ β’ 관계는 명시적으로 판단 가능하거나 반판정 가능하게 된다.

α‑판정 가능성은 “∃y ∈ Brw. (P ↔ α ≤ y)”라는 존재 명제로 정의된다. 여기서 α는 임의의 브라우어 순서이며, y는 α보다 크거나 같은 순서를 제공한다. 이 정의는 두 가지 중요한 특성을 갖는다. 첫째, α=1일 때는 전통적 판정 가능성과 동치이며, α=ω+1일 때는 반판정 가능성과 동치가 된다. 이는 ‘jumping sequence’와 ‘downward sequence’ 변환을 통해 이진 시퀀스와 순서열 사이를 자유롭게 오갈 수 있음을 보인다.

연산적 측면에서 저자는 α‑판정 가능 명제가 이진 합(conjunction)에서는 언제나 닫힌다는 정리를 증명한다. 이는 두 명제 P, Q가 각각 α‑판정 가능하면, P∧Q 역시 같은 α에 대해 판정 가능함을 의미한다. 반면, 이진 논리합(disjunction)에서는 제한이 있다. 저자는 (ω·n + k)‑판정 가능 명제들의 집합이 이진 논리합에 대해 닫힌다는 결과를 제시한다. 이는 순서의 곱셈·덧셈 구조와 깊은 연관이 있다.

가산 연산에 대해서는 더욱 흥미로운 결과가 나온다. 모든 P(i) 가 반판정 가능일 때, 전체 가산 교 ∀i P(i) 는 ω²‑판정 가능이다. 이는 각 P(i) 를 순서 y_i 로 매핑하고, 그들의 최소 상한을 취함으로써 얻어진다. 반대로 가산 합 ∃i P(i) 는 일반적으로 ω·3‑판정 가능이며, 가산 선택(Countable Choice)을 가정하면 반판정 가능으로 상승한다. 이는 선택 원리가 순서적 복잡도를 어떻게 낮출 수 있는지를 보여준다.

마지막으로, 저자는 Sierpiński‑반판정 가능성이라는 대안적 개념을 도입해, 가산 선택 없이도 가산 합에 대한 닫힘성을 확보한다는 점을 강조한다. 또한 제한 원리(LPO)와 마르코프 원리(MP) 같은 구성적 원리를 이용해 α‑판정 가능 계층을 엄격히 구분한다.

전체 결과는 Cubical Agda로 형식화되어, 정리들의 형식적 검증과 구현 가능성을 동시에 제공한다. 이는 순서론적 판정 가능성 이론이 실제 프로그래밍 언어와 형식 검증 도구에 바로 적용될 수 있음을 시사한다.