범주론을 위한 집합 이론: 크기 구분과 기반 선택

초록

이 논문은 범주론에서 필수적인 ‘작은 집합’과 ‘큰 집합’(또는 ‘클래스’) 구분을 형식화하는 여러 집합론적 기반을 소개하고 비교한다. ZFC와 그 확장인 Grothendieck 우주, NBG·MK와 같은 클래스 이론, 그리고 ETCS·동형 유형 이론 등 각각의 장단점을 분석하고, 이러한 선택이 한계, 함자 범주, 자유 대수 구조 등 구체적인 범주론적 구성에 어떤 영향을 미치는지를 설명한다. 독자는 논문을 통해 자신에게 맞는 기초 체계를 선택하고, 일상적인 범주론 작업을 안전하게 수행할 수 있다.

상세 분석

논문은 먼저 범주론에서 ‘크기’ 문제가 왜 중요한지를 강조한다. 예를 들어, 모든 집합을 객체로 하는 범주 Set은 자체가 큰 범주이므로, Set‑valued 함자나 자연 변환을 정의할 때 ‘작은’ 집합과 ‘큰’ 집합을 명확히 구분해야 한다. 이를 위해 전통적으로 ZFC를 사용하지만, ZFC만으로는 ‘모든 집합의 집합’이라는 개념을 직접 다룰 수 없기 때문에 Grothendieck 우주라는 추가 가정을 도입한다. 우주는 특정한 큰 집합 V를 선택하고, V 안의 모든 원소를 ‘작은 집합’으로 간주함으로써, V‑내의 모든 범주가 ‘작은’ 범주가 된다. 이 접근법은 대다수의 대수적 및 위상수학적 범주론에서 편리하지만, 우주의 존재 자체가 선택 공리와 같은 강한 가정을 필요로 한다는 비판이 있다.

다음으로 논문은 클래스 이론인 NBG와 MK를 검토한다. NBG는 ZFC에 클래스 개념을 추가한 체계로, ‘집합’과 ‘클래스’를 구분하는 언어를 제공한다. NBG는 보존정리(Conservativity) 때문에 ZFC와 동일한 증명력을 가지면서도, 클래스 수준의 구성을 직접 서술할 수 있다. MK는 NBG보다 강력한 교환 원리를 허용해, 더 많은 클래스 정의가 가능하지만, 일관성 강도가 ZFC보다 높다(즉, ZFC보다 강한 가정이 필요). 두 이론 모두 ‘함자 범주 Fun(C,D)’가 C가 작은 범주이고 D가 큰 범주일 때도 정의 가능하게 만든다.

또한, ETCS(집합론적 카테고리 이론)와 같은 공리적 카테고리 이론을 소개한다. ETCS는 집합을 ‘집합 객체’를 가진 토포스라고 정의하고, 선택 공리와 무한 집합 공리를 카테고리 수준에서 직접 기술한다. 이 접근법은 ‘집합’ 자체를 범주론적 구조로 재해석하므로, 전통적인 ZFC와 달리 ‘집합’과 ‘클래스’ 구분이 필요 없으며, 대신 ‘소형’과 ‘대형’ 토포스 사이의 관계를 다룬다.

마지막으로 동형 유형 이론(HTT)과 같은 고차 논리 체계가 제시된다. HoTT는 ‘집합’ 개념을 0‑형(type)으로, ‘클래스’는 고차형으로 모델링한다. 이론적으로는 무한 차원의 동형성을 자연스럽게 포함하지만, 현재는 아직 범주론 전반에 걸친 실용적 도구로 자리 잡지는 못했다.

각 기반을 비교할 때 논문은 다음과 같은 핵심 지표를 사용한다: (1) 증명력 및 일관성 강도, (2) 정의 가능한 범주의 종류(예: 함자 범주, 지수 객체, 자유 대수 구조), (3) 실제 수학자들의 사용 편의성, (4) 선택 공리와 같은 추가 가정의 필요성. 결과적으로, ‘큰 범주’를 자주 다루는 연구자는 NBG·MK가 가장 직관적이며, ‘작은 범주’와 ‘우주’ 개념을 활용하는 대다수 대수학·위상수학자는 Grothendieck 우주 기반 ZFC를 선호한다는 결론을 제시한다.