선형 모델의 200년 역사와 가정의 변천

초록

본 논문은 일반 선형 모델이 1805년 레전드르의 최소제곱법에서 시작해 19세기 천문·측지학, 1920년대 피셔의 농업·생물학, 1930‑40년대 사회과학으로 확장되는 세 단계의 흐름을 조명한다. 각 단계에서 오류항을 정규·독립·동분포(i.i.d.)로 가정했지만, 적용 분야가 넓어질수록 이 가정은 점점 약화되고, 결과적으로 통계 기법의 오용 위험이 커진다.

상세 분석

이 논문은 일반 선형 모델(General Linear Model, GLM)의 역사적 전개와 그 근본 가정—특히 오류항의 정규성, 독립성, 동일분포(i.i.d.)—에 대한 비판적 고찰을 제공한다. 첫 번째 단계는 1805년 레전드르가 제시한 최소제곱법으로, 천문학·측지학에서 관측오차가 주된 변동원인이라는 전제 하에 오류를 정규분포로 모델링했다. 당시 관측 장비와 데이터 양이 제한적이었기에 “법칙의 오류(Law of Errors)”가 실험적 검증을 통해 강하게 뒷받침되었으며, 이는 중앙극한정리와 일치한다는 점에서 통계적 정당성을 확보했다.

두 번째 단계는 피셔가 1920년대에 농업·생물학 데이터에 GLM을 적용하면서 시작된다. 여기서는 관측오차 외에 실험 대상 자체의 이질성(예: 나무, 작물)의 변동이 추가되었다. 피셔는 모집단이 정규분포를 따른다는 가정을 도입했지만, 이는 실제 생물학적 변이와는 괴리가 있었다. 논문은 피셔와 피어슨 사이의 논쟁을 상세히 서술한다. 피어슨은 피셔가 정규성 가정을 충분히 명시하지 않았으며, 특히 분산분석(F‑test)과 같은 검정이 정규성에 민감함을 지적한다. 피셔는 “정규성에 대한 가정은 경험에 기반한다”는 입장을 밝히지만, 실제로는 정규성 위반 시 검정력과 제1종 오류가 크게 변한다는 점이 간과되었다.

세 번째 단계는 1930‑40년대 사회과학 분야로의 확장이다. 사회현상은 종종 비대칭·중심이동·중첨도(heavy‑tailed) 특성을 가지며, 정규분포 가정은 점점 부적절해진다. 이 시기에 피어슨이 제안한 확률분포계열(예: 감마, 베타, 카이제곱 등)와 같은 비정규 모델이 도입되었지만, GLM 자체는 여전히 정규성 전제를 유지했다. 결과적으로 연구자는 모델의 가정을 검증하지 않은 채 회귀계수와 p‑값을 해석하게 되었으며, 이는 “통계적 오용”이라는 저자의 경고와 일치한다.

논문은 또한 통계 모델의 일반적 특성—수학적 추상화와 현실 세계 사이의 간극—을 강조한다. 모델은 현실을 단순화한 이상화이며, 가정이 깨질 경우 모델이 제공하는 추론은 신뢰성을 잃는다. 특히, 오류항이 독립·동분포가 아닌 경우(시계열 상관, 군집 구조, 이질성)에는 일반 선형 모델의 최소제곱 추정량이 편향·비효율적일 수 있다. 현대 통계학에서는 이러한 문제를 해결하기 위해 일반화 선형 모델(GLM), 혼합효과 모델, 부트스트랩, 베이지안 접근법 등이 개발되었지만, 원 논문이 제시한 역사적 교훈은 여전히 유효하다.

요약하면, 선형 모델은 200년 동안 천문학 → 생물학 → 사회과학으로 확장되었으며, 각 단계마다 가정의 타당성이 재검토되었다. 가정이 약화될수록 통계적 결론의 신뢰도가 떨어지고, 이는 연구 설계와 데이터 분석 단계에서 가정 검증을 소홀히 하면 발생한다는 중요한 교훈을 제공한다.