비율·차분 모델의 측정 가능성: 동위원소 질량분석(IRMS) 사례 연구

초록

본 논문은 절대비율 모델 YA = SR/W와 차분비율 모델 YD = (SR/W – 1) 사이의 측정 정확도 차이를 이론적으로 분석한다. 절대 모델은 측정 불확실성이 입력 변수의 불확실성 합(uS+uW)으로 제한되는 반면, 차분 모델은 SR과 WR의 차이에 따라 증폭된 오차가 발생한다는 결론을 제시한다.

상세 분석

논문은 먼저 측정 모델을 일반 함수 Y = f({Xi}) 형태로 정의하고, 모델이 실제 목적에 적합한지 사전에 판단할 수 있는 기준을 제시한다. 여기서 목적은 입력 변수들의 변동률에 대한 출력 변수의 민감도를 정량화하는 것이며, 이를 통해 모델 선택의 위험성을 미리 평가한다.
두 가지 구체적 모델은 (1) 절대비율 모델 YA = SRi/WRi와 (2) 차분비율 모델 YD = (SR i/WR i – 1) = YA – 1이다. SRi와 WRi는 각각 시료와 작업용 기준의 동위원소 비율을 의미한다. 절대 모델의 경우, 출력 오차 eA는 입력 오차 uS와 uW의 단순 합으로 표현된다(eA = uS + uW). 최악의 경우 두 입력 오차가 동일하면 eA = 2ui가 된다. 이는 모델이 입력 변수의 절대값에만 의존하므로, SRi와 WRi 사이의 차이가 작아도 오차가 크게 변하지 않음을 의미한다.
반면 차분 모델은 출력 오차 ed가 SRi와 WRi의 차이에 비례한다. 저자는 미분계수 mi = SRi/(SRi – WRi) 를 도입해 ed = 2|mi| ui = |mi| eA 로 나타낸다. SRi와 WRi가 거의 동일하면 |mi|는 무한대로 발산하고, 결과적으로 ed도 무한대로 커진다. 즉, 차분 모델은 입력값이 거의 같은 상황에서 오히려 측정 정확도를 크게 저하시킨다.
이러한 수학적 전개는 동위원소 질량분석(IRMS)에서 흔히 발생하는 “시료와 기준이 거의 동일한 비율을 가진다”는 전제와 직접 충돌한다. 실제 IRMS 실험에서는 SRi ≈ WRi인 경우가 많으며, 따라서 차분 모델을 그대로 적용하면 결과가 매우 불안정하고 신뢰할 수 없게 된다.
하지만 저자는 차분 모델을 완전히 배제하기보다는, 차분값을 절대값으로 변환하는 후처리 과정을 제안한다. 즉, YD를 직접 사용하지 않고, YD를 다시 SRi 형태로 역변환함으로써 원래의 절대비율 정확도를 회복할 수 있다는 것이다. 이는 기존에 보고된 “D‑estimate를 절대비율로 변환하면 정확도와 비교가능성이 향상된다”는 결과와 일치한다.
결론적으로, 절대비율 모델 YA는 입력 오차의 선형 합으로 제한된 안정적인 오차 구조를 가지고 있어 일반적인 IRMS 상황에 적합하고, 차분 모델 YD는 입력값 차이에 민감한 특성 때문에 특별한 보정 없이 사용하면 위험하다. 다만 차분값을 절대비율로 재변환하는 절차를 거치면 차분 모델의 장점(예: 상대적인 변동성 강조)을 유지하면서도 정확도를 확보할 수 있다.