자기 개선 에이전트의 통계적 한계

초록

본 논문은 에이전트가 스스로 설계 전반을 수정할 수 있는 상황을 5축(알고리즘·표현·구조·기반·메타인지)으로 모델링하고, 각 축이 학습 가능성에 미치는 영향을 분석한다. 핵심 결과는 “유틸리티‑학습 긴장”으로, 즉 즉각적 성능을 높이는 유틸리티‑합리적 변형이 학습에 필요한 통계적 전제(특히 가용 용량)를 파괴할 수 있음을 보인다. 분포‑자유 PAC 보장은 정책이 도달할 수 있는 가설 집합의 VC 차원이 유한하게 제한될 때만 유지되며, 이를 보장하기 위한 두 단계 검증 게이트(마진 τ와 용량 K

상세 분석

이 논문은 기존 학습 이론이 “학습 메커니즘은 고정”이라는 전제에 의존한다는 점을 지적하고, 초지능 에이전트가 스스로 알고리즘, 표현, 아키텍처, 하드웨어(기반), 메타인지 전략을 수정할 수 있다는 가정을 도입한다. 이를 위해 저자는 5축 분해와 정책‑레벨 의사결정 레이어를 정의한다. 정책‑레벨에서는 현재 상태와 유한 증거(E_t)를 이용해 수정 맵 Φ가 적용되고, 수정이 실행되기 위해서는 유틸리티 u가 즉시 증가한다는 형식적 증명이 필요하다.

핵심 정리는 “정책‑레벨 학습 가능성 경계”(Theorem 1)이다. 여기서는 정책이 도달할 수 있는 모든 가설 집합 H′에 대해 VC 차원의 상한이 유한하면, 분포‑자유 PAC 학습이 유지된다고 증명한다. 충분성은 고정된 용량 상한 K가 존재하면 ERM 또는 AERM이 표준 VC 수렴률을 달성함을 이용한다. 반대로 필요성은 용량이 무한히 커지는 경우, VC 하한이 샘플 복잡도에 대한 역방향 제한을 만들어 어떤 알고리즘도 분포‑자유 보장을 제공할 수 없음을 보인다.

이론적 결과를 실용화하기 위해 두 단계 검증 게이트(Two‑Gate) 메커니즘을 제안한다. 첫 번째 게이트는 검증 집합 V에서 경험 위험이 현재 모델보다 τ만큼 개선되는지를 확인하고, 두 번째 게이트는 새 모델이 사전에 정의된 용량 제한 K