통계학의 두 파편 빈도주의와 베이지안주의의 과학적 함의

초록

이 논문은 통계학을 전공하지 않은 과학자의 시각에서 빈도주의와 베이지안주의를 비교한다. 과학적 탐구는 본질적으로 가설과 사전 지식에 기반한 베이지안적 질문을 다루지만, 현재 통계 교육과 연구에서 빈도주의가 우세해 과학자들이 잘못된 방법론을 선택하게 만든다. 저자는 베이지안 접근이 실제 과학적 의사결정에 더 적합함을 논증하고, 빈도주의가 남용되는 사례와 그 위험성을 지적한다.

상세 분석

논문은 먼저 통계학자들이 크게 두 흐름, 즉 빈도주의와 베이지안주의로 나뉜다는 점을 명확히 한다. 빈도주의는 확률을 장기적인 반복 실험에서의 상대 빈도로 정의하고, 파라미터를 고정된 미지수로 간주한다. 반면 베이지안주의는 확률을 주관적 믿음의 정도로 해석하며, 파라미터 자체를 확률 변수로 모델링한다. 저자는 과학자가 실제로 직면하는 문제—예를 들어 새로운 현상에 대한 가설 검증, 제한된 데이터로부터의 추론, 그리고 사전 지식의 통합—가 베이지안 프레임워크와 자연스럽게 맞물린다고 주장한다.

특히, 과학적 연구는 종종 “어떤 가설이 얼마나 믿을 만한가?”라는 질문을 던진다. 이는 사전 확률(prior)과 데이터에 기반한 사후 확률(posterior)을 계산하는 베이지안 접근이 직접적으로 제공하는 형태이다. 반면 빈도주의는 p‑값과 신뢰구간을 통해 귀무가설을 기각하거나 채택하는 절차를 제공하지만, 이는 실제 과학적 의미와는 거리가 있다. p‑값은 “관측된 데이터가 귀무가설 하에서 얼마나 드물게 나타날 수 있는가”를 측정할 뿐, 가설 자체의 진위 확률을 알려주지 않는다. 따라서 과학자는 p‑값을 해석하는 과정에서 흔히 착각에 빠진다(예: p‑값이 작다고 가설이 진실이라고 착각).

논문은 또한 빈도주의가 교육과 출판에서 과도하게 강조되는 구조적 원인을 짚는다. 많은 학부·대학원 커리큘럼이 복잡한 베이지안 계산을 회피하고, 간단히 “통계적 유의성”을 판단하도록 훈련한다. 이는 연구자들이 데이터가 충분히 크지 않은 상황에서도 빈도주의 검정을 적용하게 만들며, 결과적으로 과도한 오류율과 재현성 위기를 초래한다.

베이지안 접근의 장점으로는 (1) 사전 지식의 정량적 통합, (2) 소규모 표본에서도 의미 있는 추론 가능, (3) 결과를 직관적인 확률 형태로 제시해 의사결정에 직접 활용 가능함을 강조한다. 저자는 베이지안 모델링이 현대 컴퓨팅 파워와 MCMC, 변분 추정 등 효율적인 알고리즘 덕분에 실용적 제약이 크게 감소했다고 지적한다.

마지막으로, 저자는 과학 공동체가 빈도주의에만 의존하는 현재의 패러다임을 재고하고, 베이지안 사고방식을 교육·연구에 적극 도입해야 한다고 촉구한다. 이는 과학적 진리 탐구의 효율성을 높이고, 결과의 해석과 재현성을 개선하는 길이다.