조건부 확률의 계산 가능성

이 논문은 확률적 추론을 자동화하려는 컴퓨터 과학자와 통계학자의 관심사에 대한 근본적인 한계를 밝히면서, 동시에 실무에서 흔히 사용되는 모델에 대해 조건부 확률이 계산 가능한 경우를 체계적으로 제시한다. 1. 서론에서는 확률 프로그래밍의 배경을 소개한다. 확률 프로그래밍 언어는 Turing 기계 수준의 계산 가능한 분포를 표현할 수 있으며, 이러한 언어가 제공하는 “샘플링” 기능은 이론적으로는 모든 computable 분포를 생성할 수 있다. 그러나 조건부 연산, 즉 관측값이 주어졌을 때 사후 분포를 구하는 과정은 일반적인 알고리즘으로는 보장되지 않는다. 2. 저자들은 computable probability theory라는 형식적 프레임워크를 도입한다. 여기서는 computable Polish space, computable 실수, computable 측도, 그리고 “almost computable” 개념을 정의한다. 특히, 랜덤 변수는 측도 공간 위의 measurable 함수로 보며, 그 함수가 정의된 거의 모든 점에서 computable하면 “almost computable”이라 부른다. 3. 조건부 확률에 대한 전통적 정의(Kolmogorov의 Radon–Nikodym 파생)와 현대적 해석을 정리한다. 조건부 확률은 일반적으로 “측도 0 집합 위에서만 정의된” 함수이기 때문에, 특정 관측값에 대해 명확히 값을 얻는 것이 어려울 수 있다. 4. 부정 결과는 크게 두 부분으로 전개된다. - Proposition 5.1에서는 X와 C라는 두 랜덤 변수를 구성해, 모든 버전의 조건부 분포 P