샤우 박스플롯과 어댑티브 박스플롯: R 패키지를 통한 향상된 이상치 탐지

초록

본 논문은 전통적인 Tukey 박스플롯의 고정 펜스 규칙이 표본 크기가 커질수록 과도한 이상치를 검출하는 문제를 해결하기 위해 두 개의 새로운 R 패키지, ChauBoxplot과 AdaptiveBoxplot을 소개한다. 전자는 Chauvenet 기준에 기반한 표본 크기 조정 펜스를 제공하고, 후자는 다중 검정 절차(FWER, FDR)를 적용해 오류율을 통제한다. 시뮬레이션과 중국 대학 입시 데이터 분석을 통해 이들 방법이 기존 방법보다 더 신뢰성 있게 이상치를 식별함을 보였다.

상세 분석

논문은 먼저 Tukey 박스플롯이 고정된 k = 1.5 · IQR 펜스를 사용해 이상치를 정의함으로써 표본 크기가 증가하면 정상 데이터까지 외부값으로 오인되는 “과잉 검출” 현상이 발생한다는 점을 지적한다. 이를 보완하기 위해 Lin et al. (2026)이 제안한 Chauvenet‑type 박스플롯은 표본 크기 n에 따라 k 값을 동적으로 조정한다. 구체적으로 k₍Chau₎ = Φ⁻¹(1 − 0.25/n)/1.35 − 0.5 로 정의되며, 이는 정규분포 가정 하에 평균적으로 절반의 관측값을 제외하도록 설계되었다. 이 접근법은 기존의 고정 펜스보다 표본 크기에 대한 이론적 근거를 제공한다는 점에서 통계적 타당성이 높다.

AdaptiveBoxplot 패키지는 Gang et al. (2026)의 다중 가설 검정 프레임워크를 구현한다. 여기서는 각 관측값을 귀무분포(보통 사분위수를 이용한 강건 추정)와 비교해 p‑값을 산출하고, Holm 단계‑하강 절차를 통해 FWER를, Benjamini‑Hochberg 절차를 통해 FDR을 제어한다. 이 과정에서 목표 오류 수준 α를 사용자가 지정할 수 있으며, 조정된 p‑값을 다시 데이터 스케일로 변환해 펜스 위치를 결정한다. 따라서 오류 제어가 엄격한 상황(FWER)과 대규모 데이터에서 탐지력(민감도)을 높이고자 할 때(FDR) 각각 최적화된 박스플롯을 제공한다.

시뮬레이션에서는 n = 50, 500, 5 000, 50 000의 네 가지 표본 크기에 대해 정상분포(N(0,1)) 데이터에 3개의 강한 이상치(N(5,0.5²))를 삽입하였다. 결과는 고전적 Tukey 박스플롯이 큰 표본에서 중앙값 주변까지 과도하게 이상치로 표시되는 반면, Chauvenet‑type, Holm‑boxplot, BH‑boxplot은 거의 동일하게 실제 이상치만을 검출함을 보여준다. 이는 표본 크기와 분포 특성을 반영한 동적 펜스와 오류 제어가 실제 데이터 분석에서 오탐을 크게 감소시킨다는 실증적 증거이다.

실제 데이터 사례로는 2024년 중국 고등학교 졸업시험(가오카오)에서 각 성·직별 ‘Project 985’와 ‘Project 211’ 대학 입학률을 분석하였다. 총 13.53 백만 명의 응시자를 대상으로, 입학률 분포는 명백한 지역 격차를 보였으며, Tukey 박스플롯은 일부 중간값을 이상치로 오인했다. 반면 Chauvenet‑type 박스플롯은 실제로 눈에 띄는 극단값(예: Qinghai 등)만을 강조하였다. AdaptiveBoxplot은 base R 그래픽에만 적용 가능했지만, FWER와 FDR 제어 옵션을 통해 대규모 교육 데이터에서도 신뢰성 있는 이상치 탐지가 가능함을 시연했다.

전반적으로 이 논문은 박스플롯 기반 이상치 탐지에 통계적 엄밀성을 도입함으로써, 사용자가 시각적 직관성을 유지하면서도 오류율을 명시적으로 제어할 수 있는 실용적인 도구를 제공한다는 점에서 의의가 크다. 다만, AdaptiveBoxplot이 ggplot2와의 통합이 아직 미비하고, 비정규분포에 대한 민감도 검증이 제한적이라는 점은 향후 개선 과제로 남는다.