이질분산 제어 보정 모델을 활용한 화학 분석 정확도 향상

본 연구는 화학 분석 실험실에서 시료의 농도 X₀를 추정할 때, 전통적으로 사용되는 선형 보정 모델이 독립 변수 X에 측정오차가 없다고 가정하는 한계점을 지적한다. 실제 실험에서는 표준 용액을 제조하는 과정에서 목표 농도 X를 달성하기 위해 여러 단계의 시약 혼합 및 희석이 이루어지며, 이 과정에서 발생하는 오차 δ는 무시할 수 없는 수준이다. 저자는 이러한 상황을 “제어 변수(controlled variable)” 개념으로 모델링하고, X = x + δ (δ는 평균 0, 분산 σ²_δi) 로 표현한다. 여기서 x는 실제 달성된 농도이며 관측되지 않는다. 대신, 실험자는 목표값 X와 그에 대한 불확실성(예: ISOGUM 가이드에 의한 u(X_i))을 알고 있다. 제안된 이질분산 제어 보정 모델은 두 단계로 구성된다. 첫 번째 단계에서는 표준 용액 i (i=1,…,n)에 대해 관측된 독립 변수 X_i와 종속 변수 Y_i 사이의 관계를 Y_i = α + β x_i + ε_i 로 설정한다. 여기서 ε_i는 측정 오차이며, 분산 σ²_ε는 동일하게 가정한다. 두 번째 단계에서는 미지 시료에 대한 측정 Y₀j (j=1,…,k)를 Y₀j = α + β X₀ + ε_j 로 모델링한다. 이때 X₀는 실제 농도이며, X_i와 x_i 사이의 관계식 X_i = x_i + δ_i 를 결합함으로써 전체 로그우도 함수를 도출한다. 로그우도 함수는 γ_i = σ²_ε + β² σ²_δi 라는 가중치를 포함하며, 이는 각 표준점마다 오차 분산이 다를 수 있음을 반영한다. α와 X₀에 대해서는 폐쇄형 해가 존재하여 ˆα = Ȳ – ˆβ X̄, ˆX₀ = Ȳ₀ – ˆα/ˆβ 로 계산된다. β와 σ²_ε는 로그우도에 대한 편미분식(2.7, 2.8)을 이용해 수치적으로 해결한다. 저자는 Newton‑Raphson 또는 EM 알고리즘과 같은 반복적 최적화 방법을 사용해 수렴성을 확인하였다. 파라미터 추정치의 정확성을 평가하기 위해 피셔 정보 행렬 I(θ)를 명시적으로 구하고, 그 역행렬을 통해 대수적 분산을 얻는다. 특히 X₀에 대한 근사 분산식(2.9)은 n과 k의 비율, β, σ²_ε, 그리고 각 σ²_δi 를 모두 포함한다. 이 식은 σ²_δi = 0이면 기존 보정 모델의 분산식으로, σ²_δi = σ²_δ (동일)이면 이전에 제안된 동분산 제어 모델의 분산식으로 귀환한다. 따라서 제안 모델은 기존 모델들을 특수 경우로 포함하는 일반화된 프레임워크이다. 시뮬레이션 연구에서는 n=5,20,100,5000, k=2,20,100,500 등 다양한 표본 크기를 설정하고, X₀를 0.01, 0.8, 1.9 (극단값·중간값) 로 변동시켰다. σ²_δi는 i·0.1/n 형태의 이질분산을 부여했으며, σ²_ε는 0.04 로 고정하였다. 3000개의 시뮬레이션 반복을 통해 편향(bias), 평균제곱오차(MSE), 추정된 분산, 이론적 분산을 비교하였다. 결과는 기존 모델이 편향이 약간 작지만, MSE와 추정된 분산 측면에서 제안 모델이 더 정확하고, 특히 k가 커질수록 신뢰구간 폭이 감소하고 95% 커버리지가 향상되는 것을 보여준다. 이는 제어 변수 오차를 명시적으로 고려함으로써 불확실성 전달이 보다 현실적으로 이루어짐을 의미한다. 실제 적용 사례로는 브라질 IPT 실험실에서 크로뮴, 카드뮴, 납의 농도를 측정한 데이터가 사용되었다. 표준 용액의 농도 X_i와 그 불확실성 u(X_i) (ISOGUM 가이드 기반)를 표 3에 제시하고, σ²_δi = u(X_i)² 로 설정하였다. 표 4는 시료의 측정 강도를 제공한다. R의 optim 함수를 이용해 로그우도(2.6)를 최적화하고, 초기값은 동분산 제어 모델에서 얻은 ˆβ와 ˆσ²_ε를 사용하였다. 결과적으로 α, β, X₀ 추정값은 두 모델 간에 거의 차이가 없었으나, X₀의 추정 분산 V(ˆX₀)와 확장 불확실성 U(X₀)에서는 기존 모델이 과대평가되는 반면 제안 모델이 보다 보수적인 값을 제공하였다. 특히 크로뮴의 경우 두 모델 간에 미세한 차이가 있었지만, 전반적으로 제안 모델이 불확실성 전달에 있어 더 신뢰할 수 있음을 확인했다. 논문의 결론은 다음과 같다. (1) 표준 용액 제조 과정에서 발생하는 이질분산 오차를 모델에 포함시키는 것이 통계적 보정의 정확성을 크게 향상시킨다. (2) 제안된 이질분산 제어 보정 모델은 기존 선형 보정 모델과 동분산 제어 모델을 모두 포괄하는 일반화된 형태이며, 피셔 정보와 근사 분산식을 통해 신뢰구간을 정량화할 수 있다. (3) 시뮬레이션과 실제 데이터 분석 모두에서 제안 모델이 평균제곱오차와 신뢰구간 폭 측면에서 우수함을 보였으며, 특히 k(시료 측정 횟수)가 충분히 클 때 신뢰구간이 크게 수축하고 커버리지가 95%에 근접한다. (4) 실험 설계 단계에서 각 표준점의 오차 분산을 사전에 추정하고 모델에 반영함으로써, 실험실에서의 불확실성 관리와 결과 보고가 보다 과학적 근거를 갖게 된다. 향후 연구에서는 σ²_δi 를 미지 파라미터로 추정하거나, 베이지안 프레임워크와 결합해 사전 정보와 데이터를 통합하는 방법을 탐색할 여지가 있다.