수학 플라톤주의의 그림자: 미켈란젤로의 돌과 우리 선택의 한계

초록

플라톤주의가 가정하는 ‘수학적 실재’ M이 너무 방대하면 선택의 가치가 사라지고, 반대로 제한하면 인간과 세계에 의존한다는 역설을 제시한다. 저자는 고전 기하, 산술, 선형대수의 구체적 사례를 들어 수학이 보편적이라기보다 우리 환경에 의존적인 ‘우연적’ 구조임을 주장한다.

상세 분석

논문은 먼저 플라톤주의가 “수학적 사실이 우리와 무관하게 존재한다”는 전제를 두고, 그 전제가 실제로 의미하는 바를 검토한다. 저자는 M이라는 모든 수학적 진리의 집합을 가정하고, 두 가지 극단을 제시한다. 첫째, M이 모든 가능한 공리계와 그로부터 도출되는 정리를 포함한다면, 그 규모는 어마어마하게 커져서 ‘재미’나 ‘가치’가 사라진다. 이는 미켈란젤로가 돌에서 조각을 ‘찾아낸다’는 비유와 보르헤스의 모든 가능한 책이 들어 있는 도서관에 빗대어, 전체가 무의미해지는 상황을 설명한다. 둘째, M을 인간이 흥미를 느끼는 부분만으로 제한한다면, 그 선택은 인간의 인지 구조, 문화적 배경, 물리적 환경 등에 의존하게 된다. 즉, 플라톤적 실재가 인간 독립적이라는 주장과 모순된다.

구체적 사례로는 2차원 유클리드 기하가 고대 이집트·그리스의 토지 측량 필요성에서 비롯된 ‘우연적’ 선택임을 지적한다. 지구가 더 작았거나, 인간이 더 큰 곡률을 가진 행성에 살았다면 구면기하가 기본이 되었을 것이다. 저자는 구면기하가 수식적으로 더 간단하고, 삼각형의 면적·코사인 법칙 등에서 유클리드보다 우월함을 보여, “직관적”이라고 여겨지는 유클리드 기하가 실제로는 문화적 편의에 의한 선택임을 강조한다.

산술과 선형대수에 대해서도 비슷한 논리를 전개한다. 자연수 체계는 인간이 손가락을 세는 경험에서 출발했으며, 다른 베이스(예: 12진법)나 비정수 체계가 동일한 ‘보편성’으로 받아들여질 수 없다는 점을 들어, 수학적 구조가 물리적·인지적 환경에 크게 좌우됨을 주장한다. 선형대수의 경우, 벡터 공간을 정의하는 기본 개념이 물리적 공간의 차원성과 직접 연결돼 있기 때문에, 다른 차원의 물리적 세계에서는 전혀 다른 대수적 체계가 자연스러울 수 있다.

결론적으로 저자는 플라톤주의가 “모든 가능한 수학적 구조”와 “우리에게 의미 있는 구조” 사이의 긴장을 무시하고 있음을 지적한다. 수학은 무한히 많은 가능성 중에서 인간이 선택한 ‘흥미로운’ 부분만을 탐구하는 활동이며, 그 선택은 우리 존재와 물리적 세계에 깊이 얽혀 있다. 따라서 플라톤적 실재론은 실제 수학의 경험적·문화적 특성을 충분히 설명하지 못한다.