비원자 측도 하에서의 PAC 학습 가능성

초록

본 논문은 모든 비원자(확산) 확률 측도에 대해 개념 클래스가 PAC 학습 가능하도록 하는 새로운 조합론적 기준을 제시한다. 기존의 VC 차원 대신 ‘카운트 가능한 집합을 무시한 VC 차원(VC mod ω₁)’을 정의하고, 마틴 공리(MA) 하에서 이 차원이 유한하면 그리고 오직 그때만 비원자 측도에 대해 PAC 학습이 가능함을 증명한다. 또한 함수 학습에 대해서는 유사한 ‘fat‑shattering 차원 modulo countable sets’를 도입한다.

상세 분석

논문은 먼저 전통적인 PAC 학습 이론에서 VC 차원과 균일 Glivenko‑Cantelli(GC) 성질이 분포 자유 학습의 필요충분조건이라는 사실을 상기한다. 그러나 비원자 측도만을 고려하면 이러한 등가관계가 깨진다. 예시로 모든 유한·공유한 집합을 포함하는 클래스 C는 VC 차원이 무한하고 GC 성질을 갖지 않지만, 비원자 측도 하에서는 PAC 학습이 가능함을 보인다. 이 현상은 ‘카운트 가능한 잡음’이 학습에 영향을 주지 않기 때문에 발생한다.

이를 정형화하기 위해 저자는 VC mod ω₁을 정의한다. 이는 전통적인 VC 정의에서 점을 대신해 ‘불가산 클러스터’를 사용해 셔틀링을 판단한다. 구체적으로, n개의 불가산 집합 A₁,…,Aₙ이 존재하여 모든 부분집합 J⊆{1,…,n}에 대해 C∈𝒞가 J에 해당하는 Aᵢ들을 포함하고 나머지는 배제하도록 할 수 있으면 VC mod ω₁≥n이다. 이 정의는 “모든 가산 부분클래스는 어떤 가산 제외 집합 외에서는 유한 VC 차원을 가진다”는 조건과 동치이다.

주요 정리(Theorem 1.1)는 마틴 공리(MA)를 가정할 때 다음이 동등함을 보인다. (1) 𝒞가 모든 비원자 측도에 대해 PAC 학습 가능, (2) VC mod ω₁가 유한, (3) 모든 가산 부분클래스가 어떤 가산 제외 집합 외에서 유한 VC 차원을 가짐, (5) 모든 가산 부분클래스가 비원자 측도에 대해 균일 GC 클래스임 등. 특히 (3)⇒(1) 증명은 MA를 이용해 일관된 학습 규칙 L을 구성하고, L이 각 샘플에 대해 균일 GC 성질을 만족하도록 하는 것이 핵심이다.

함수 학습에 대해서는 fat‑shattering 차원 modulo countable sets를 도입한다. 정의는 VC mod ω₁와 유사하게, ε‑정밀도에서 불가산 집합들을 ‘샤터’로 사용해 차원을 측정한다. Theorem 1.2는 이 차원이 모든 ε에 대해 유한하면 비원자 측도 하에서 PAC 학습이 가능함을 보이며, 역은 일반적인 경우 성립하지 않는다.

또한 저자는 Boolean 대수와 C*‑대수의 최대 이데얼 공간을 이용해 위 정의를 기존의 컴팩트화된 공간에서의 전통적인 VC/ fat‑shattering 차원과 동등하게 표현한다. 이는 기존 이론과의 연결고리를 제공하고, ‘카운트 가능한 잡음’이 제거된 새로운 학습 가능성 기준을 직관적으로 이해하게 한다.

마지막으로, 보편적으로 구분 가능한 클래스(Universally separable)에서는 MA 없이도 (1)–(9) 조건이 모두 동등함을 보이며, 일반 클래스에서는 MA가 필수적임을 강조한다. 전체적으로 논문은 비원자 측도라는 제한된 측도 클래스에서 학습 이론을 재구성하고, 기존의 VC 차원보다 더 섬세한 combinatorial 지표를 제시함으로써 이론적·실용적 의미를 동시에 제공한다.