파장 교정 불확도 추정에 대한 몬테카를로 방법의 실용적 적용

초록

본 논문은 비트 주파수 기법을 이용한 파장 교정에서 GUM(불확도 표현 가이드) 적용 조건이 충족되지 않음을 확인하고, CIPM Supplement I에서 제시한 몬테카를로(MC) 방법을 적용해 불확도 분포를 재평가한다. MC 시뮬레이션 결과는 비대칭·비정규성을 보이며, GUM보다 신뢰성 높은 불확도 추정이 가능함을 보여준다.

상세 분석

본 연구는 파장 교정 측정에 대한 불확도 추정 방법을 GUM과 몬테카를로(MC) 두 가지 관점에서 비교·분석한다. GUM은 불확도 전파를 위해 ‘선형성’, ‘입력 변수의 정규성’, ‘불확도 기여가 충분히 작다’는 전제조건을 요구한다. 그러나 비트 주파수 기법은 레이저 주파수 차이를 직접 측정하는 비선형 관계를 포함하고, 입력 변수인 레이저 주파수 안정도와 카운터 잡음은 명백히 정규분포가 아니며, 특히 환경 온도·압력 변동에 따른 비선형 보정식이 적용된다. 이러한 특성은 GUM의 핵심 전제조건을 위배한다는 점에서 GUM 적용이 부적절함을 의미한다. 반면, CIPM Supplement I가 제시한 MC 방법은 ‘모델이 명시적으로 정의되고’, ‘각 입력 변수의 확률분포가 사전에 알려져 있음’, ‘시뮬레이션 샘플 수가 충분히 크다’는 조건만을 만족하면 된다. 논문에서는 입력 변수별 확률분포를 실험적 데이터와 제조사 사양을 기반으로 정의하고, 10⁶ 회 이상의 샘플을 생성해 출력 변수인 파장 교정값의 분포를 추정하였다. 결과적으로 MC 시뮬레이션은 비대칭적이고 꼬리가 두꺼운 분포를 보였으며, 평균값과 표준편차만으로는 설명되지 않는 불확도 특성을 드러냈다. 이는 GUM이 제공하는 대칭적·정규분포 가정이 실제 측정 상황을 충분히 반영하지 못한다는 강력한 증거가 된다. 또한, MC 결과는 불확도 예산에서 가장 큰 기여를 하는 요인을 정량적으로 식별할 수 있게 해 주어, 향후 교정 프로세스 최적화에 직접적인 인사이트를 제공한다. 따라서 본 연구는 GUM 조건이 충족되지 않는 복합 측정 시스템에 대해 MC 방법이 보다 신뢰성 있고 실용적인 대안임을 입증한다.