측정공간의 부분 시그마대수와 도메인 이론: 기대와 현실 사이

초록

측정공간 ((X,\mathcal{M}))에서 부분 시그마대수와 동치관계 사이의 Galois 연결을 이용해, 이들의 부분 순서가 도메인 이론에서 요구되는 완전성·연속성 등을 만족하지 못함을 보인다. 특히 분석가능 공간의 매끄러운 동치관계 집합에도 동일한 부정적 결과가 적용돼, 도버캣이 제기한 “부분 시그마대수의 격자 구조가 도메인 이론적으로 유용할까?”라는 질문에 부정적인 답을 제시한다.

상세 분석

본 논문은 측정공간 ((X,\mathcal{M}))의 부분 시그마대수 (\mathcal{S}\subseteq\mathcal{M})와 (X) 위의 동치관계 (\mathcal{E}) 사이에 존재하는 Galois 연결을 출발점으로 삼는다. 이 연결은 (\mathcal{S}\mapsto\operatorname{Eq}(\mathcal{S})) (즉, (\mathcal{S})가 구분하는 원소들을 동일시하는 최소 동치관계)와 (\mathcal{E}\mapsto\sigma(\mathcal{E})) (동치류들의 합집합을 생성하는 최소 시그마대수) 사이에서 상호 보완적인 변환을 제공한다. 도버캣(Doberkat)의 이전 연구에서는 확률 관계(stochastic relation) 위의 합동(congruence) 격자에 대해 도메인 이론적 성질—특히 완전 부분 순서(complete partial order, CPO)와 연속성—을 기대할 수 있음을 암시하였다.

그러나 저자는 두 가지 핵심적인 반례를 제시한다. 첫 번째는 (\mathbb{R}) 위의 보렐 시그마대수 (\mathcal{B}(\mathbb{R}))를 고려했을 때, 부분 시그마대수들의 집합 (\mathcal{L}={\mathcal{S}\mid\mathcal{S}\subseteq\mathcal{B}(\mathbb{R})})가 포함 관계에 따라 형성하는 포스는 하위 완전성(lower completeness)을 결여한다는 점이다. 구체적으로, 무한히 감소하는 체 (\mathcal{S}{1}\supseteq\mathcal{S}{2}\supseteq\cdots)를 잡아도 그 교집합이 다시 시그마대수가 되지 않을 경우가 존재한다. 이는 CPO의 핵심 요건인 모든 하향 체에 대한 greatest lower bound(g.l.b.)가 존재하지 않음을 의미한다.

두 번째 반례는 “매끄러운(smooth) 동치관계”라 불리는, Borel 집합으로 정의 가능한 동치관계들의 집합 (\mathcal{E}{\text{smooth}})에 적용된다. 분석가능 공간(analytic space) (X)에 대해 (\mathcal{E}{\text{smooth}})는 Galois 연결을 통해 부분 시그마대수와 일대일 대응하지만, 위에서 언급한 교집합 부재 현상이 그대로 전이된다. 따라서 ((\mathcal{E}_{\text{smooth}},\subseteq)) 역시 완전성이나 연속성 같은 도메인 이론적 속성을 갖지 못한다.

이러한 결과는 도버캣이 기대한 “부분 시그마대수와 동치관계의 격자 구조가 도메인 이론적으로 풍부하다”는 가설을 반증한다. 특히, 도메인 이론에서 중요한 연속 사상(continuous map)이나 고정점 정리(Kleene fixed‑point theorem)의 적용 가능성을 차단한다. 저자는 반례 구성에 있어 측정론적 세부 사항—예를 들어, 비가산 집합의 가산 합성, 외부 측도(outer measure)의 비가산성—을 정교하게 활용했으며, 이는 기존 문헌에서 간과된 미묘한 구조적 결함을 드러낸다.

결론적으로, 부분 시그마대수와 동치관계 사이의 Galois 연결은 순서론적으로 매력적일지라도, 도메인 이론이 요구하는 완전성·연속성·조밀성 등을 동시에 만족시키지는 못한다. 이는 확률적 시스템 모델링에서 합동을 통한 추상화 기법을 도메인 이론적 틀 안에 끌어들이려는 시도에 근본적인 한계를 제시한다.