데이터에 최적화된 선형 피팅 전략과 실용적 구현

초록

본 논문은 2차원 데이터에 직선을 피팅할 때 발생하는 다양한 불확실성(이질적·공분산·이상치·내재 산포 등)을 포괄적으로 다루며, “생성 모델(generative model)”을 기반으로 한 확률적 접근법을 제시한다. 가중 최소제곱법의 가정이 깨질 경우 베이지안 사후분포와 마진화 기법을 이용해 파라미터 추정과 불확실성 전파를 수행한다. 또한, 이상치 제거와 불확실성 추정이 불가능한 상황에 대한 실용적 대안도 제공한다.

상세 분석

이 논문은 선형 회귀를 단순히 “최소제곱”으로 해결하는 전통적 접근을 비판하고, 실제 과학 데이터가 갖는 복합적인 오차 구조를 정량적으로 모델링해야 함을 강조한다. 먼저, x축에 불확실성이 무시될 수 있고 y축에만 알려진 가우시안 잡음이 존재한다는 가정 하에 가중 최소제곱법(Weighted Least Squares, WLS)이 최적임을 수학적으로 증명한다. 이때 사용되는 행렬식 A, Y, C와 그 역행렬을 통한 해 X = (AᵀC⁻¹A)⁻¹AᵀC⁻¹Y는 χ² 최소화와 동일한 목적함수를 갖는다.

하지만 실제 데이터는 다음과 같은 복합적 문제를 가진다. (1) x와 y 모두에 측정오차가 존재하거나, 오차가 서로 상관관계를 가질 때(공분산 행렬이 비대각). (2) 이상치(outlier) 혹은 “bad data”가 포함돼 χ²에 과도한 영향을 미칠 경우. (3) 측정오차 자체가 알려지지 않았거나, 데이터에 내재된 산포(intrinsic scatter)가 존재해 모델 자체가 완전하지 않을 때. 이러한 상황을 모두 포괄하기 위해 저자는 “생성 모델” 개념을 도입한다. 즉, 데이터가 실제로는 y = mx + b 라는 선형 관계에서 가우시안 잡음(분산 σ²_y)과 추가적인 “내재 산포” 혹은 “이상치 분포”(평균 Y_b, 분산 V_b)로 변형된 결과라고 가정한다.

이 가정 하에 전체 데이터의 가능도(Likelihood)는 각 점의 조건부 확률 p(y_i|x_i,σ_{y_i},m,b) 의 곱으로 표현되며, 로그가능도는 -½χ² 형태가 된다. 베이지안 관점에서는 사전분포(p(m,b))와 결합해 사후분포 p(m,b|data) 를 얻고, 사전이 비정보적이면 사후분포는 가능도와 거의 동일하게 된다. 따라서 파라미터 추정은 단순히 χ² 최소화가 아니라, 사후분포의 최대화 혹은 평균을 구하는 것이며, 이는 MCMC나 변분 추론을 통해 구현 가능하다.

이상치 처리에서는 각 데이터 포인트에 이진 변수 q_i(좋은 데이터=1, 나쁜 데이터=0)를 도입하고, 나쁜 데이터의 사전 확률 P_b와 평균·분산(Y_b, V_b)을 파라미터화한다. 전체 모델은 q_i, P_b, Y_b, V_b 를 포함한 확장된 가능도 함수를 갖게 되며, 이들을 마진화(marginalize)함으로써 “sigma clipping” 같은 임의적 절차 없이도 자동으로 이상치를 억제한다.

또한, 측정오차가 알려지지 않은 경우에는 “hierarchical Bayesian” 접근을 사용한다. 각 데이터의 σ_{y_i} 를 하이퍼파라미터로 두고, 그에 대한 사전분포(예: Jeffreys prior) 를 지정해 전체 가능도를 적분한다. 이렇게 하면 불확실성을 데이터 자체로부터 추정할 수 있다.

마지막으로, 내재 산포를 모델링할 때는 y = mx + b 외에 추가적인 분산 term s² 를 도입해 총 오차 분산을 σ²_{total}=σ²_{y}+s² 로 정의한다. s² 를 파라미터로 추정함으로써 과소추정된 오차가 모델 파라미터에 미치는 편향을 방지한다.

전반적으로 논문은 “생성 모델 → 가능도 → 베이지안 사후분포 → 마진화”라는 일관된 흐름을 제시하며, 복잡한 오차 구조와 이상치 문제를 수학적으로 정당화된 방법으로 해결한다. 이는 천문학, 물리학, 생물학 등 다양한 분야에서 데이터 피팅에 대한 표준 절차를 제시하는 중요한 기여라 할 수 있다.