베이즈 추론의 부조리함과 그 적용

초록

본 논문은 베이즈 통계에 대한 오해와 비판을 역사적 사례(펠러의 교과서, 종말론 논증 등)를 통해 분석하고, 왜 이러한 비판이 논리적·철학적 근거가 부족한지를 조명한다.

상세 분석

베이즈 추론은 사전 확률과 사후 확률을 연결하는 수학적 체계로, 현대 통계·머신러닝에서 핵심적인 위치를 차지한다. 그러나 일부 이론가들은 베이즈 방법을 “명백히 잘못된” 것으로 치부한다. 이 논문은 그 근원을 두 가지 차원에서 파악한다. 첫째, 20세기 초반 확률론의 형식주의적 전통 속에서 사전 확률을 ‘주관적’이라고 보는 시각이 강하게 작용했다. 펠러(Feller)는 자신의 교과서에서 베이즈 정리를 “불필요하고 위험한” 접근이라며, 특히 사전분포를 임의적으로 설정하는 것이 통계적 객관성을 해친다고 비판했다. 이는 당시 빈도주의가 절대적 확률을 강조하던 시점과 맞물려, 베이즈주의를 ‘주관적 추측’에 불과하다고 몰아붙인 것이다.

둘째, 현대에 들어 ‘종말론(doomsday) 논증’과 같은 철학적 사유 실험이 베이즈적 틀에 끼어들면서, 베이즈가 “세상의 종말을 예측한다”는 오해가 확산되었다. 종말론 논증은 인간이 현재까지 관측한 인구수를 사전 정보로 삼아, 미래 인구 규모를 베이즈식으로 추정한다는 식이다. 비평가들은 이 과정에서 사전분포를 임의로 선택하고, 관측값 자체가 이미 선택 편향을 내포한다는 점을 들어 “베이즈는 스스로 모순된다”고 주장한다. 그러나 논문은 이러한 비판이 사전분포 선택의 정당성을 간과하고, 베이즈 추론이 제공하는 불확실성 정량화 자체를 부정하는 데 있음을 지적한다.

또한, 베이즈와 빈도주의 사이의 ‘철학적 전쟁’이 과학적 실천보다 이념적 대립에 치우쳐 있다는 점을 강조한다. 베이즈는 사전 지식이 존재할 때 가장 효율적인 업데이트 메커니즘을 제공하며, 사전이 ‘잘못된’ 경우에도 데이터가 충분히 강력하면 사후분포는 결국 객관적 결론에 수렴한다는 ‘강인성(robustness)’ 특성을 갖는다. 따라서 “베이즈는 근본적으로 오류다”는 주장은 사전분포 선택에 대한 불안과, 빈도주의적 ‘객관성’에 대한 과도한 신뢰에서 비롯된다고 결론짓는다.

마지막으로, 저자는 베이즈 방법론이 실제 과학·공학 분야에서 어떻게 성공적으로 적용되고 있는지를 다수 사례(베이즈 네트워크, 베이즈 최적화, 의료 진단 등)와 함께 제시하며, 비판적 시각이 과학적 진보를 저해할 위험성을 경고한다.