분석학 정의의 진화와 창조적 전통

초록

이 논문은 17세기 뉴턴·라이프니츠의 미적분 창시부터 20세기 러시아의 기술 집합론까지, 수학적 정의가 ‘개념의 부피’와 ‘구조’로 구분되는 흐름을 추적한다. 아르노와 니콜레의 논리학적 고찰, 칸토어의 서술적 정의, 그리고 루신의 원리를 중심으로 프랑스와 러시아에서 형성된 정의 전통을 조명한다.

상세 분석

논문은 먼저 뉴턴과 라이프니츠가 미적분학을 창시하면서 분석학이 독립된 학문 영역으로 부상했음을 강조한다. 그 당시 정의는 직관적이고 경험적이었으며, 엄밀한 논리적 구조는 부재했다. 17세기 말 아르노와 니콜레는 『논리학 혹은 사고의 기술』에서 정의를 “개념의 부피”(conceptual volume)와 “구조”(structure)로 구분하는 새로운 패러다임을 제시한다. 부피는 정의가 포괄하는 대상의 범위를, 구조는 그 대상을 구분짓는 핵심 속성을 의미한다. 이 구분은 프랑스 수학 전통에 깊이 뿌리박혀 19세기까지 지속되었으며, 정의는 주로 이항 명명법(binomial nomenclature) 형태로 표현되었다. 즉, ‘A는 B이다’와 같은 형식이 일반적이었다.

그러나 19세기 말 칸토어는 집합론을 통해 서술적 정의(descriptive definition)를 도입한다. 서술적 정의는 처음에 하나의 핵심 특성만을 제시하고, 연구가 진행됨에 따라 추가적인 특성들을 차례로 덧붙여 완전한 개념을 구축한다. 이는 인간 과학에서 현상을 단계적으로 기술하는 방식과 유사하며, 수학적 창조성을 촉진한다는 논증이 제시된다. 칸토어의 접근은 무한 집합, 순서수, 실수 체계 등 새로운 대상들을 정의하는 데 결정적 역할을 했다.

1915년 러시아 수학자 루신은 “구조적 특성을 제시하면, 그에 상응하는 분석적 형태를 찾아야 한다”는 원칙을 제시하며 서술적 정의를 체계화한다. 루신은 정의의 두 단계—구조적 서술과 분석적 구현—를 명확히 구분함으로써, 정의가 단순히 언어적 기술에 머무르지 않고 실제 계산 가능하고 검증 가능한 형태로 전환될 필요성을 강조한다. 이 원칙은 모스크바 학파를 중심으로 한 기술 집합론(Descriptive Set Theory)의 급속한 발전을 촉발했다. 기술 집합론은 복잡한 집합을 계층적으로 분류하고, 그 복잡도와 측정 가능성을 분석하는 새로운 방법론을 제공한다. 특히, 소프라노프, 바라노프, 스테판코프 등은 루신의 원리를 바탕으로 Borel 집합, 프로젝트ive 집합 등을 체계화했으며, 이는 현대 측정 이론과 위상수학에 깊은 영향을 미쳤다.

논문은 이러한 흐름을 통해 정의가 단순히 ‘무엇을 말하는가’를 넘어 ‘어떻게 표현하고 활용할 것인가’라는 두 축을 갖게 되었음을 강조한다. 초기의 부피‑구조 구분은 정의의 논리적 엄밀성을 확보했으며, 서술적 정의와 루신의 원리는 정의를 동적이고 확장 가능한 연구 도구로 전환시켰다. 결과적으로, 17세기부터 20세기까지 정의의 진화는 분석학이 자체적인 창조적 전통을 구축하는 핵심 메커니즘으로 작동했음을 논증한다.