제곱합의 힘: 통계 교육을 단순화하는 핵심 원리

이 논문은 통계학이 과학적 증명의 유일한 언어라는 전제에서 출발하여, 현재 통계 교육이 직면한 문제점을 진단한다. 저자는 통계가 “사람들의 직관과 반대되는 사고 방식”과 “숫자에 대한 공포” 때문에 학습자가 이해하기 어렵다고 주장한다. 또한, 기존 교과서가 각 통계 검정을 독립적인 절차로 제시함으로써 학생들이 이들 검정이 실제로는 동일한 원리, 즉 제곱합(Sum of Squares)에 기반한다는 사실을 놓치게 만든다고 비판한다. 핵심 주장으로는 ‘제곱합’이 모든 모수적 검정—분산, 표준편차, t‑검정, ANOVA, 상관·회귀—의 공통된 수학적 토대라는 점이다. 제곱합은 “각 관측값과 평균의 차이를 제곱한 뒤 모두 더한 값”으로 정의되며, 자유도(N‑1)로 나누어 분산을 구하고, 다시 제곱근을 취해 표준편차를 얻는다. 자유도의 개념은 “평균을 알면 마지막 한 값은 자동으로 결정된다”는 직관적인 예시로 설명한다. 논문은 제곱합의 역사적 배경도 제시한다. 1733년 de Moivre가 정규분포를 기술했으며, 1805년 Legendre와 1794년 Gauss 사이에 최소제곱법의 우선권 논쟁이 있었고, 1893년 Pearson이 ‘표준편차’라는 용어를 만든 과정을 간략히 서술한다. 이러한 역사를 통해 제곱합이 200년 넘게 통계학의 핵심 도구였음을 강조한다. 교육적 적용을 위해 저자는 구체적인 예시를 제시한다. 네 개의 점수(1, 1, 7, 30, 20)를 이용해 전체 제곱합(SS_total=314)를 계산하고, 두 그룹(고소음 vs 저소음)으로 나누어 각 그룹 내 제곱합(SS_within=58)과 그룹 간 제곱합(SS_between=256)을 도출한다. 여기서 SS_between/SS_total=0.815가 결정계수(R²)이며, 그 제곱근이 상관계수 r=0.90이 된다. 이 과정을 통해 ANOVA 표를 만들고, t‑검정이 두 그룹 평균 차이에 대한 특수한 경우임을 보여준다. 또한, 제곱합이 회귀 분석에서도 동일하게 사용된다는 점을 강조한다. 회귀선은 관측값과 예측값의 차이를 제곱한 합을 최소화하는 선이며, 이는 곧 제곱합을 최소화하는 과정이다. 따라서 회귀, ANOVA, t‑검정은 모두 ‘총 변동을 설명 변수와 오차로 분할’하는 동일한 프레임워크에 속한다. 논문은 마지막으로 제곱합 기반 접근법의 한계도 언급한다. 비정규분포나 비모수적 방법에서는 제곱합이 최적의 척도가 아닐 수 있으며, 평균절대편차(MAD)와 표준편차 사이의 논쟁을 예로 들어, 정규성 가정이 깨질 경우 MAD가 더 효율적일 수 있음을 인정한다. 또한, 표본 평균을 사용함으로써 제곱합이 실제보다 작아지는 현상을 자유도 보정(n‑1)으로 조정한다는 설명을 제공한다. 결론적으로, 저자는 제곱합을 중심으로 통계 검정의 통일성을 강조함으로써, 학생들이 각각의 검정을 별개의 복잡한 절차가 아니라 하나의 일관된 모델—일반선형모형(GLM)—의 변형으로 이해하도록 돕고자 한다. 이를 위해 교재와 강의에서 제곱합을 시각적·직관적으로 강조하고, 자유도와 변동 분할 개념을 일관되게 가르치는 것이 필요하다고 제안한다.