동일 오차를 가진 두 변수의 직선 최소제곱 적합

초록

본 논문은 두 변수 모두 동일하고 상관 없는 오차를 가질 때 직선 최소제곱 피팅의 파라미터와 표준오차를 간단한 폐쇄형 식으로 제시한다. 유도된 식들은 Monte Carlo 시뮬레이션을 통해 검증되었으며, 실험 데이터 분석에 바로 적용할 수 있는 실용적인 도구를 제공한다.

상세 분석

이 연구는 전통적인 y‑축 전용 최소제곱법이 변수 x에도 동일한 측정오차가 존재할 경우 편향된 추정치를 제공한다는 점에 착안한다. 저자들은 두 변수 모두에 동일한 분산 σ²의 독립적인 정규오차가 존재한다는 가정을 명시하고, 이 조건 하에서 직선 y = a + b x의 최적 파라미터 a와 b를 최소제곱 기준으로 동시에 추정한다. 핵심은 관측값 (xi, yi) 를 평균값 (x̄, ȳ) 로부터의 편차로 변환하고, 공분산 행렬이 σ²I₂ 로 단순화되는 점을 이용해 일반화된 최소제곱(GTLS) 문제를 풀어낸다. 결과적으로 기울기 b는 (Syy − Sxx) ± √