ISO 5725 측정 정밀도 부트스트랩 추정 및 신뢰구간 구축 가이드

초록

본 논문은 ISO 5725에서 정의하는 반복성·실험실 간·재현성 분산을 부트스트랩으로 추정하는 5가지 재표본 전략을 제안하고, 편향 보정식을 적용한 점 추정량과 BCa 신뢰구간을 비교한다. 시뮬레이션 결과, 실험실 내 재표본(boot‑jr, boot‑js)이 소규모·중간 규모 설계에서 정확하고 안정적인 점 추정을 제공하며, 2단계 재표본(boot‑ijr)과 BCa 구간이 가장 근접한 명목 수준의 커버리지를 보인다. 극단적 설계에서는 성능 저하가 관찰돼 주의가 필요함을 강조한다. 실제 ISO 5725‑4 데이터에 적용한 사례도 제시한다.

상세 분석

이 연구는 ISO 5725가 요구하는 “one‑way random‑effects” 모델 Yᵢⱼ = μ + Lᵢ + Eᵢⱼ을 기반으로, 반복성(σ²_r), 실험실 간(σ²_L), 재현성(σ²_R = σ²_r + σ²_L) 세 분산을 추정한다. 전통적인 ANOVA 기반 추정식(2.4)은 편향과 음수 추정 위험이 존재하지만, 부트스트랩은 분포 가정 없이 표본 재표본을 통해 추정량의 샘플링 분포를 근사한다. 저자는 다음 5가지 재표본 방식을 정의한다. (1) boot‑i: 실험실 단위만 재표본, 측정값은 그대로 유지. (2) boot‑js: 각 실험실 내에서 측정값을 단일 재표본. (3) boot‑jr: 각 실험실 내에서 측정값을 반복 재표본(다중 복제). (4) boot‑ijr: 2단계 – 실험실 재표본 후 각 실험실 내 반복 재표본. (5) boot‑ijs: 실험실과 측정값을 동시에 단일 재표본.

Wiley(2010)의 편향 보정 공식을 변형해, 각 재표본에 대해 σ²_r와 σ²_L의 부트스트랩 평균(¯σ²*)에 비례하는 보정계수를 도입하였다(식 3.2‑3.4). 특히 boot‑jr와 boot‑js는 σ²_r에 대해 k/(k‑1)·n/(n‑1) 보정, σ²_L에 대해서는 복합 보정식을 적용한다.

신뢰구간 구축은 세 가지 부트스트랩 기반 방법을 사용한다. (a) 표준 정규(윌드) 구간, (b) 퍼센타일 구간, (c) BCa 구간. BCa는 부트스트랩 평균을 기준으로 편향(z₀)과 가속도(a)를 추정해 조정된 퍼센타일을 사용함으로써 비대칭 분포에 대한 정확도를 높인다.

시뮬레이션 설계는 σ²_r = 1을 고정하고 σ²_L/σ²_r = 0.25, 0.5, 1, 2의 네 비율, 실험실 수 k와 복제 수 n을 각각 {3,5,10,50}에서 조합한 64 조건을 대상으로 1,000번 Monte‑Carlo 반복과 1,000번 부트스트랩을 수행했다. 결과는 다음과 같다.

1. 점 추정: 작은(k,n) 조합에서는 boot‑jr와 boot‑js가 σ²_r와 σ²_L를 ±0.01 이내로 정확히 복원했으며, boot‑i, boot‑ijr, boot‑ijs는 σ²_r를 20‑25% 과대, σ²_L를 과소 추정했다. n이 증가하면 모든 방법에서 σ²_L에 대한 편향이 감소했지만, boot‑jr와 boot‑js가 가장 빠르게 수렴했다.

2. 표준오차: 부트스트랩 SE는 ANOVA 기반 SE와 비교해 전반적으로 비슷했으나, 극단적 설계(k = 3, n = 3)에서는 부트스트랩이 과도한 변동을 보였다.

3. 신뢰구간: BCa 구간이 가장 근접한 명목 95% 커버리지를 제공했으며, 특히 boot‑ijr + BCa가 σ²_L와 σ²_R 모두에서 보수적이면서도 과소·과대 편향을 최소화했다. 퍼센타일 구간은 대칭 가정 때문에 일부 조건에서 커버리지가 90% 이하로 떨어졌고, 윌드 구간은 정규성 가정 위배 시 과도하게 좁아졌다.

극단적 상황(실험실 수가 매우 적거나 σ²_L이 지배적인 경우)에서는 모든 부트스트랩 방법이 불안정해지며, 추가적인 사전 검증이나 더 큰 표본이 필요함을 강조한다.

마지막으로 ISO 5725‑4 실제 데이터(실험실 k = 12, 복제 n = 4)를 적용해, 부트스트랩 점 추정이 ANOVA 추정과 거의 일치하지만, BCa 구간이 기존 근사 구간보다 넓고 보수적임을 확인했다.

이 논문은 실무자에게 다음과 같은 구체적 권고를 제시한다. (1) 점 추정은 boot‑jr 또는 boot‑js를 사용해 편향을 최소화하고, (2) 신뢰구간은 2단계 부트스트랩(boot‑ijr)과 BCa 방법을 결합해 사용한다. 설계가 작거나 σ²_L이 크게 차지할 때는 결과 해석에 주의를 기울이고, 필요 시 부트스트랩 반복 횟수(M)와 Monte‑Carlo 검증을 확대한다.