측정오차의 새로운 패러다임: 분류 없는 불확실성 접근

본 논문은 측정오차에 대한 기존의 ‘체계오차(systematic error)’와 ‘우연오차(random error)’ 구분을 근본적으로 재검토한다. 저자들은 먼저 오차를 “측정값과 진값의 차이”라는 정의에 따라 고정된 상수로 간주한다. 이 고정 오차는 두 부분으로 나뉘어지는데, 하나는 측정값과 수학적 기대값 사이의 편차(AΔ)이며, 이는 기존 이론에서 ‘우연오차’로, 다른 하나는 기대값과 진값 사이의 편차(BΔ)이며, 이는 ‘체계오차’로 분류된다. 그러나 두 편차 모두 ‘알 수 없는 상수’이며, 통계적 특성(표준편차 등)에서도 차이가 없으므로, 이를 근거로 별도의 분류를 정당화하는 것은 논리적 모순이다. 논문은 이 논점을 뒷받침하기 위해 ‘오차의 규칙성(regularity)’과 ‘오차의 영향 특성(effect characteristics)’이라는 두 축을 상세히 분석한다. 1. **오차의 규칙성** - 측정이 반복될 때 얻어지는 다수의 오차 샘플은 특정 패턴을 보일 수 있다. 저자들은 이를 ‘확정적(정규) 규칙성’과 ‘무작위 규칙성’으로 구분한다. - 예시로 석영 결정의 온도-주파수 오차를 든다. 온도와 주파수 오차 사이의 관계를 함수 모델(2차 다항식)로 보정하면, 오차는 ‘정규적’인 함수 형태를 띤다. 반면 온도 변수를 무시하고 오차 자체만을 보면, 오차는 정규분포를 따르는 무작위성으로 해석된다. - 따라서 같은 오차가 관측 조건에 따라 ‘정규성’ 혹은 ‘무작위성’으로 보일 수 있음을 보여준다. 2. **오차의 영향 특성** - 반복 측정 시 적용되는 인위적 조건(예: 회로 노이즈, 측정 환경 등)이 오차의 분포에 영향을 미친다. - 사이클 오류(광전식 거리계) 사례에서는 거리와 오차 사이에 사인 함수 형태의 주기적 규칙성이 존재한다. 그러나 거리 변수를 무시하고 오차만을 보면, 확률밀도함수에 의해 무작위 분포가 된다. - 이러한 두 사례는 오차의 ‘규칙성’과 ‘특성’이 관측자의 선택에 따라 달라진다는 점을 강조한다. 논문은 위 두 축을 통해 기존 이론이 오차를 체계·우연으로 구분하는 것이 실제 측정 현상의 복합성을 반영하지 못한다는 결론에 도달한다. 오차를 고정된 상수로 보고, 그 불확실성을 표준편차와 같은 확률적 척도로 평가하는 ‘불확실성(uncertainty)’ 개념이 유일한 합리적 대안이라고 주장한다. 또한, 실제 측정 실무에서 흔히 사용되는 최소제곱법, 함수 모델 보정, 그리고 무작위 모델 처리 등을 모두 ‘불확실성 감소’ 절차로 재해석한다. 예를 들어, 석영 결정의 온도 보정 후 남는 잔차 오차는 여전히 무작위 모델로 처리되지만, 그 표준편차는 기존보다 크게 감소한다. 이는 오차를 ‘정규’ 혹은 ‘무작위’로 강제 구분하기보다, 전체 오차를 하나의 확률분포로 보는 것이 더 일관된 해석임을 보여준다. 마지막으로, 저자들은 오차 비분류 철학이 국제 측정 표준화, 고정밀 계측기 설계, 그리고 불확실성 평가 프로토콜에 새로운 이론적 기반을 제공할 수 있음을 강조한다. 기존의 ‘정밀도(precision)’, ‘진실성(trueness)’, ‘정확도(accuracy)’ 개념을 폐기하고, 오차 전체를 불확실성으로 통합 평가하는 것이 향후 측정학의 발전 방향이라고 제시한다.