알고리즘적 무작위성: 귀납적 추론과 인공지능의 기반

초록

이 논문은 알고리즘적 무작위성(콜모고로프 복잡도)과 그 역학이 어떻게 옥캄의 면도날을 정량화하고, 솔로모노프 귀납을 통해 일반화 문제를 해결하며, 보편 인공지능 모델(AIXI)의 이론적 토대로 작용하는지를 서술한다. 과거의 개념적 발달, 현재의 수학·컴퓨터 과학적 응용, 그리고 미래 연구 과제를 순차적으로 조망한다.

상세 분석

논문은 먼저 무작위성을 “예측 불가능성”이 아닌 “계산 불가능성”으로 재정의한다는 점에서 기존 통계적 정의와 차별화한다. 알고리즘적 무작위성은 어떤 문자열이 짧은 프로그램으로 생성될 수 없을 때 정의되며, 이는 콜모고로프 복잡도(K)와 직접 연결된다. K가 높은 문자열은 압축이 불가능하고, 따라서 “진정한 무작위”라 할 수 있다. 저자는 이 개념을 옥캄의 면도날(Ockham’s razor)과 연결시켜, 가장 짧은 설명(최소 복잡도)이 가장 좋은 예측 모델이라는 원리를 정량화한다. 이는 솔로모노프 귀납(Solomonoff induction)의 핵심이며, 모든 가능한 프로그램에 가중치를 2^(-K)로 부여해 사전 확률을 정의한다. 이러한 사전은 무한히 많은 가설 공간에서도 베이즈적 업데이트가 가능하도록 만든다.

다음으로 논문은 이 이론이 인공지능, 특히 보편 인공지능 모델 AIXI에 어떻게 적용되는지를 설명한다. AIXI는 환경을 프로그램으로 모델링하고, 기대 보상을 최대화하는 행동을 선택한다. 여기서 기대값은 모든 가능한 환경 프로그램에 대해 무게가 부여된 평균을 취함으로써 정의되며, 이는 바로 알고리즘적 무작위성에 기반한 사전이다. 따라서 AIXI는 “가능한 모든 가설”을 고려하면서도 가장 단순한(복잡도가 낮은) 가설에 더 큰 신뢰를 둔다.

논문은 또한 현재의 한계—예를 들어 K를 실제로 계산할 수 없고, AIXI가 계산적으로 비현실적이라는 점—을 솔직히 인정한다. 이를 보완하기 위해 Levin 검색, 마코프 체인 몬테카를로, 그리고 제한된 복잡도 모델(예: MDL, PAC‑Bayes) 등을 활용한 실용적 근사 방법을 제시한다. 마지막으로 미래 연구 방향으로는 (1) 효율적인 복잡도 추정 알고리즘, (2) 인간 인지와의 연계, (3) 윤리·안전성 문제와 같은 철학적·사회적 함의 탐구를 제시한다. 전체적으로 논문은 알고리즘적 무작위성을 귀납적 추론과 인공지능의 근본 원리로 재해석함으로써, 이론적 통일성과 실용적 응용 사이의 다리를 놓는다.