위상공간 자동사상의 컴팩트 확장 불가능성

본 논문은 형태 비교 분야에서 사용되는 여러 거리·의사거리(Hausdorff 거리, Gromov‑Hausdorff 거리, Fréchet 거리, 자연 의사거리)가 모두 “모든 대응관계(코릴레이션) 위에서의 최소값” 형태로 정의된다는 공통점을 발견하고, 이를 일반적인 범주론적 틀 안에 배치한다. 저자는 C라는 작은 범주를 설정하고, 객체를 위상공간, 사상(Mor)들을 해당 공간 사이의 코릴레이션 집합으로 두며, 여기에는 모든 홈오몰피즘이 포함된다. 각 사상에 대해 비음수 함수 F를 정의하고, 다음 네 가지 자연스러운 성질(비음성, 항등함수에 대해 0, 대칭성, 삼각 부등식)을 만족하도록 한다. 이러한 F를 이용해 δ(X,Y)=inf_{ρ∈Mor(X,Y)}F(ρ) 라는 확장된 의사거리를 정의하면, 기존에 소개된 네 거리 모두 이 틀에 포함됨을 보인다. 그 다음 저자는 형태 비교에서 흔히 마주치는 두 가지 문제점을 지적한다. 첫째, 코릴레이션들의 합성이 극한에서 연속적으로 전달되지 않는다. 둘째, 위의 infimum이 실제 최소값을 갖지 않을 수도 있다. 이를 해결하기 위한 자연스러운 아이디어는 “홈오몰피즘 집합 H를 더 큰 메트릭 공간 K로 확장하고, K가 컴팩트하며, K 위에 정의된 합성 연산 •가 기존의 ◦와 일치하고, 극한에서도 연산이 교환된다”는 것이다. 그러나 논문은 이러한 K가 존재하지 않음을 정리 3.1을 통해 증명한다. 정리 3.1의 가정은 다음과 같다. 위상공간 X가 n차원 열린 구 B^n( n≥1 )와 동형인 부분집합 U를 포함한다. H는 X 위의 모든 홈오몰피즘이며, d_H는 X의 위상과 호환되는 메트릭(즉, d_H-수열이 id_X에 수렴하면 점wise로도 수렴)이다. 이때 H를 포함하고, d_H를 확장하며, 합성 연산을 연장하고, 합성이 극한과 교환되는 컴팩트 메트릭 공간 K는 존재할 수 없다는 것이 정리의 핵심 주장이다. 증명은 귀류법으로 진행된다. K가 존재한다고 가정하고, 임의의 f∈H에 대해 f^i와 그 역함수 g=f^{-1}의 반복합성을 고려한다. K의 컴팩트성으로 인해 f^{i_r}와 g^{i_r}가 수렴하는 부분열 (i_r) 가 존재한다. 합성 연속성 가정에 의해 lim_r(f^{i_r}•g^{i_r}) = lim_r f^{i_r} • lim_r g^{i_r} 가 성립하고, 이는 항등함수 id_X와 동일해야 한다. 따라서 f^{i_r+1}•g^{i_r} 역시 id_X에 수렴한다. 이는 “임의의 홈오몰피즘은 양의 정수 거듭 제곱을 통해 점wise로 항등함수에 수렴한다”는 일반적 명제를 도출한다. 하지만 이러한 명제를 위배하는 구체적인 홈오몰피즘 h를 구성한다. U를 B^n에 동형시킨 뒤, B^n을 반지름을 절반으로 축소하는 연속적인 사상 \tilde h를 만든다. 이를 X 전체에 확장해 h를 정의하면, h^k는 구의 반지름을 2^{-k} 로 줄이는 효과를 가진다. 따라서 h^k는 어떤 k에서도 점wise로 id_X에 수렴하지 않는다. 이는 앞서 도출된 일반적 수렴 성질과 모순을 일으키며, 가정한 K의 존재가 불가능함을 증명한다. 논문은 또한 몇 가지 예외와 확장 가능성을 논의한다. 만약 X가 “강체(rigid)”라서 항등함수 외에 자동사상이 전혀 존재하지 않는 경우, H 자체가 이미 컴팩트하므로 정리가 적용되지 않는다. 반면 차원 ≥1인 삼각화 가능한 공간(단순 복합체의 몸체)에서는 위 정리가 항상 성립한다. 이는 대부분의 실용적인 위상공간, 특히 형태 비교에 사용되는 매니폴드나 곡선 집합이 정리의 적용 대상임을 의미한다. 결론적으로, 형태 비교에서 코릴레이션을 통한 최소화 문제를 컴팩트 메트릭 공간으로 확장해 연산적 연속성을 확보하려는 시도는 근본적인 위계적 장애가 있음을 보였다. 이는 알고리즘 설계 시 홈오몰피즘 자체를 직접 다루거나, 비컴팩트한 공간에서 근사적 최적화를 수행해야 함을 시사한다. 또한, 이 결과는 거리·의사거리의 정의 자체가 “최소값이 존재하지 않을 수 있다”는 점을 다시 한 번 강조한다.