통계학습 이론의 점근 학습곡선과 가법성 조건

초록

본 논문은 베이즈 추정의 학습곡선이 모델이 비정규(싱글러)하거나 실제 분포를 구현하지 못하는 경우에도 보편적인 점근 법칙을 따르는 이유를 ‘가법성(renormalizable) 조건’으로 규정한다. 가법성을 만족하면 로그우도 함수의 2차 근사 불가능성에도 불구하고 학습곡선은 일반적인 1/n 형태와 동일한 상수(실제 로그 정규화 차수, 실효 차원)로 수렴한다. 반면 가법성을 위배하는 비가법(non‑renormalizable) 사례에서는 학습곡선이 다른 지수적 감소를 보이며 기존 보편 법칙에서 벗어난다.

상세 요약

이 연구는 베이즈 통계와 통계물리학 사이의 수학적 유사성을 활용한다. 베이즈 추정에서 로그우도는 확률적 해밀토니안에 대응하고, 사후분포는 통계역학의 볼츠만 분포와 동일한 형태를 가진다. 기존의 점근 학습곡선 이론은 모델이 ‘정규(regular)’하고 ‘실현가능(realizable)’할 때, 즉 파라미터 공간이 매끄럽고 실제 분포가 모델 안에 존재할 때, 자유도 d에 따라 학습곡선이 (d/2)·(1/n) 형태로 수렴한다는 결과를 제공한다. 그러나 현대의 복합 모델(신경망, 혼합 모델 등)은 파라미터 매핑이 비선형이며 특이점(singularities)을 포함한다. 이러한 경우 자유도 개념이 무의미해지고, 로그우도 함수는 2차 근사로 표현될 수 없으며, 기존의 라플라스 근사법이 실패한다.

논문은 이러한 비정규 상황에서도 보편적인 학습곡선이 나타나는 근본 원인을 ‘가법성 조건’으로 정의한다. 가법성은 두 가지 핵심 요건으로 구성된다. 첫째, 로그우도 함수 L(w)와 실제 손실 함수 K(w) 사이에 상수 C>0가 존재하여, 충분히 작은 파라미터 근방에서 K(w) ≤ C·L(w) 가 성립한다는 점이다. 이는 손실이 로그우도에 비례적으로 억제된다는 의미이며, 물리학에서의 ‘리노멀라이제이션’과 유사하게 고에너지(큰 손실) 영역을 낮은 에너지 영역으로 매핑한다. 둘째, K(w)가 실효 차원 λ와 실효 복잡도 ν를 갖는 ‘실제 로그 정규화 차수(real log canonical threshold)’와 ‘실제 복잡도(real multiplicity)’를 정의할 수 있어야 한다. 이 두 양은 대수기하학에서 특이점의 복잡도를 측정하는 지표이며, 학습곡선의 상수항을 결정한다.

가법성을 만족하면, 베이즈 사후분포의 자유도는 λ와 ν에 의해 지배되고, 학정곡선은
E