비모수 위험률 추정기의 시각적 성능 재조명

초록

본 논문은 커널 기반 비모수 위험률 추정에서 기존 L p‑norm 기반 평가와 달리, Marron‑Tsybakov이 제안한 시각적 오류 기준(visual error criteria)을 적용한다. 위험률 그래프를 평면상의 집합으로 보고, 집합 간 거리(통합형 Hausdorff 거리)를 이용해 추정기의 성능을 측정한다. 이 기준은 위험률의 기울기(미분값)가 큰 구간에서 기존 평균제곱오차(MISE)와 다른 결론을 내릴 수 있음을 이론적으로 증명하고, 가중된 MISE와의 asymptotic 연결고리를 제시한다.

상세 분석

이 연구는 비모수 위험률 추정기의 성능 평가에 있어 “시각적 적합성”을 정량화하려는 시도를 중심으로 전개된다. 전통적으로는 L p‑norm, 특히 L 2‑norm(평균제곱오차, MISE) 등을 사용해 추정함수와 진함수 사이의 수직적 차이를 측정한다. 그러나 이러한 방법은 그래프의 형태적 차이, 예를 들어 피크의 위치나 개수 차이를 반영하지 못한다는 비판을 받아왔다. Marron과 Tsybakov(1995)이 제안한 시각적 오류 기준은 함수의 그래프를 2차원 집합 G_h = {(x, h(x))} 로 보고, 두 집합 사이의 평면 거리 d((x,y), G_h) 를 정의한다. 이 거리의 제곱을 x에 대해 적분한 V E_2는 “시각적 L 2” 오류이며, 비대칭적 버전(V E_2(b→h), V E_2(h→b))과 이를 평균한 대칭 버전(S E_2)으로 구분된다.

논문은 이러한 정의를 위험률 추정에 그대로 적용한다. 위험률 h(x)와 그 커널 추정값 \hat h(x) 사이의 거리 D₁ₙ(x) = d((x,\hat h(x)), G_h) 와 D₂ₙ(x) = d((x,h(x)), G_{\hat h}) 를 고려하고, 기존 밀도 추정에서 사용된 기하학적 증명을 그대로 옮겨 위험률의 경우에도 D_iₙ(x) 가 | \hat h(x) - h(x) | 와