위상 벡터 공간에서 준볼록 함수의 연속점

초록

본 논문은 바이어(Baire) 위상 벡터 공간 X에서 실값 준볼록 함수 f가 잔여집합(residual set) 위에서 연속이 되도록 하는 필요충분조건을 제시한다. 조건은 f의 하위 수준집합들의 단순한 위상적 성질만을 이용한다. 또한, 상하위 수준집합이 비어 있지 않다면 거의 모든 값 a에 대해 f^{-1}(a)는 내부가 비어 있거나 전역적으로 비어 있지 않은 내부를 가진다. 마지막으로, 상향 연속(usc)인 준볼록 함수는 Kempisty 의미의 준연속성을 갖는다는 새로운 사실을 증명한다.

상세 분석

이 연구는 바이어 성질을 가진 위상 벡터 공간, 즉 완비 거리공간(Banach)이나 프레셰(Frechet) 공간을 일반화한 환경에서 준볼록 함수의 연속성 구조를 정밀히 탐구한다. 기존 문헌에서는 준볼록 함수가 전체적으로 연속일 경우, 하위 수준집합 {x∈X | f(x)≤α}가 폐집합이면서 또한 볼록이라는 사실만이 알려져 있었다. 그러나 이러한 전제 없이도 “잔여집합 위에서 연속”이라는 약한 연속성을 확보하려면, 하위 수준집합들의 위상적 ‘두께’를 정량화할 필요가 있다. 저자는 이를 위해 “열린 집합 위에서의 위상적 본질 극값”(topological essential extrema) 개념을 도입한다. 구체적으로, 임의의 비공허 열린 집합 U⊂X에 대해 sup ess_U f와 inf ess_U f를 정의하고, 이 값들이 실제 supremum, infimum과 일치하는지를 조사한다. 준볼록성은 이러한 일치를 보장하는 강력한 구조적 성질을 제공한다는 점이 핵심이다.

주요 정리는 다음과 같다. f가 바이어 공간 X에서 정의된 실값 준볼록 함수라면, 다음 두 조건이 동치이다. (i) f가 잔여집합 R⊂X에서 연속이다. (ii) 모든 실수 α에 대해 하위 수준집합 L_α:= {x∈X | f(x)≤α}가 ‘내부가 비어 있지 않으면’ X의 어느 비공허 열린 부분집합에 대해서도 ‘두께가 충분히 크다’, 즉 L_α∩U가 U의 잔여집합이 된다. 이때 “두께가 충분히 크다”는 의미는 L_α∩U가 U의 어느 비공허 열린 부분집합에서도 밀집한다는 점으로, 이는 전통적인 ‘밀도’ 개념보다 약하지만 충분히 강력하다.

또한, 저자는 위 정리를 활용해 f^{-1}(a)의 구조를 분석한다. 만일 f가 위 조건을 만족하면, a∈ℝ에 대해 f^{-1}(a)는 두 가지 경우만 가능하다. 첫째, f^{-1}(a)가 이제도 내부가 비어 있는 경우(즉, nowhere dense). 둘째, f^{-1}(a)가 비어 있지 않다면 내부가 비어 있지 않은 열린 부분을 포함한다. 이는 전역 연속 함수에서 알려진 “값역은 전부 내부가 비어 있거나, 내부를 가진다”는 성질을 거의 그대로 유지한다는 의미이며, 단 하나의 예외값 a₀만이 존재할 가능성을 남긴다.

마지막으로, 상향 연속(usc)인 준볼록 함수는 Kempisty가 정의한 ‘준연속(quasicontinuous)’ 성질을 만족한다는 보조 정리를 제시한다. 이는 기존에 알려지지 않았던 사실로, usc와 준볼록성의 결합이 함수의 미세한 위상적 변동을 억제하여, 임의의 열린 집합 U와 ε>0에 대해 적절한 열린 V⊂U가 존재해 f(V)⊂(f(x)-ε, f(x)+ε)임을 보장한다. 이 결과는 최적화 이론 및 비선형 분석에서 함수의 근사와 안정성 논의에 직접적인 활용 가능성을 제공한다.

전반적으로, 논문은 “잔여집합 위 연속성”이라는 약한 연속 개념을 준볼록 함수에 적용함으로써, 기존 연속성 이론을 크게 확장하고, 하위 수준집합의 위상적 특성을 통해 연속성 여부를 판단할 수 있는 실용적인 기준을 제시한다는 점에서 학문적·응용적 의의가 크다.