절단 평균과 윈저화 분산을 이용한 견고한 단변량·다변량 관리도

초록

본 논문은 전통적인 Shewhart (\bar X)-S/R 관리도의 비견고성을 보완하기 위해 절단 평균(trimmed mean)과 윈저화 분산(winsorized variance)을 기반으로 한 새로운 통계량을 제안한다. 제안된 방법은 단변량뿐 아니라 깊이 함수(depth function)를 활용한 다변량 Shewhart 및 EWMA 관리도로 확장되며, 이론적 특성(불편성, 일관성, 제한된 분산)과 시뮬레이션을 통해 기존 방법 대비 향상된 탐지력과 안정성을 입증한다.

상세 분석

논문은 먼저 전통적인 (\bar X)-S/R) 관리도가 평균과 표준편차에 민감해 이상치와 작은 변동에 의해 신호가 왜곡되는 문제점을 지적한다. 이를 해결하기 위해 절단 평균((\tilde X))을 도입한다. 절단 평균은 데이터의 상위·하위 α %를 제외하고 평균을 계산함으로써 극단값의 영향을 크게 감소시킨다. 동시에 윈저화 분산((S_w^2))은 동일한 비율의 관측치를 상한·하한값으로 대체한 뒤 분산을 구해, 절단 평균과 일관된 견고성을 제공한다. 두 통계량은 각각 불편성(bias‑free)과 제한된 분산(property of bounded influence)이라는 강점을 갖는다.

단변량 관리도에서는 기존 Shewhart 차트의 중심선과 제어한계를 (\tilde X)와 (S_w)를 이용해 재구성한다. 중심선은 (\tilde X) 자체이며, 상·하위 제어한계는 (\tilde X \pm k,S_w) 형태로 설정한다. 여기서 (k)는 원하는 평균 외 평균제어한계(ARL) 수준에 따라 조정된다. 논문은 Monte‑Carlo 시뮬레이션을 통해 (k)값을 표준 정규분포와 t‑분포(자유도 5) 하에서 최적화하고, 특히 비정규·중심이동 상황에서 기존 차트 대비 평균 탐지시간(ARL)이 30 % 이상 감소함을 보인다.

다변량 확장은 깊이 함수라는 비파라메트릭 순위 척도를 활용한다. Mahalanobis depth, spatial depth, projection depth 등 여러 후보를 실험적으로 비교했으며, 각 깊이값을 기반으로 관측치를 정렬해 상위 β %를 절단한다. 절단된 데이터 집합에 대해 다변량 평균벡터와 공분산 행렬을 윈저화 처리하고, Hotelling (T^2) 통계량을 수정한다. 구체적으로, (\tilde{\mu})와 (\tilde{\Sigma})를 사용해 (T_w^2 = (x-\tilde{\mu})^\top \tilde{\Sigma}^{-1} (x-\tilde{\mu}))를 계산하고, 이를 EWMA 가중치와 결합해 시계열 감시능력을 강화한다.

이론적 분석에서는 절단 평균과 윈저화 분산이 M‑estimator의 특수 경우임을 증명하고, influence function이 제한적임을 통해 견고성을 수학적으로 뒷받침한다. 또한, 다변량 경우에는 깊이 기반 절단이 데이터의 구조적 특성을 보존하면서도 이상치 억제 효과를 제공한다는 점을 강조한다.

실험 부분에서는 (1) 정상 상태에서의 평균·분산 추정 정확도, (2) 작은 변동(shift) 및 큰 변동(shift) 상황에서의 ARL, (3) 다양한 비정규분포(예: 로그정규, 혼합 정규) 하에서의 성능을 비교한다. 결과는 제안된 차트가 기존 Shewhart, EWMA, 그리고 최근 제안된 M‑estimator 기반 차트보다 전반적으로 낮은 ARL과 높은 신뢰구간 유지율을 보임을 보여준다. 특히 다변량 상황에서 Mahalanobis depth 기반 절단이 가장 안정적인 결과를 제공했으며, projection depth는 고차원 데이터에서 계산 효율성이 뛰어났다.

마지막으로 논문은 실무 적용을 위한 단계별 가이드라인을 제시한다. 데이터 전처리 단계에서 절단 비율 α와 깊이 절단 비율 β를 선택하고, 시뮬레이션을 통해 적절한 제어한계 상수 k를 결정한다. 또한, 소프트웨어 구현을 위해 R 패키지와 Python 모듈을 공개하고, 실제 제조 공정 데이터(예: 반도체 웨이퍼 두께) 적용 사례를 통해 현장 적용 가능성을 입증한다. 전체적으로 이 연구는 통계공정관리 분야에서 견고한 감시 도구를 제공함으로써, 이상치와 비정규성에 민감한 현대 제조·품질 환경에 적합한 새로운 표준을 제시한다.