무한 차수 커널을 활용한 누적분포함수와 생존함수의 고정밀 추정

초록

본 논문은 무한 차수 커널을 적용해 경험분포함수와 Kaplan‑Meier 추정치의 편향을 크게 감소시키는 새로운 비모수적 CDF·생존함수 추정기를 제안한다. 일반화 함수의 푸리에 변환 이론을 이용해 편향을 정밀히 분석하고, 상대 결핍(deficiency)과 비대칭 효율(ARE) 관점에서 기존 추정법보다 우수함을 증명한다. 또한 무한 차수 커널에 최적화된 자동 대역폭 선택 알고리즘을 도입해 소표본에서도 실질적인 성능 향상을 확인한다.

상세 분석

이 연구는 기존의 커널 기반 CDF·생존함수 추정이 1차 혹은 2차 커널에 의존해 편향과 분산 사이의 트레이드오프를 겪는 한계를 극복하고자 무한 차수(infinite‑order) 커널을 도입한다. 무한 차수 커널은 그 푸리에 변환이 컴팩트한 지원을 가지며, 고차 미분이 존재하지 않아도 무한히 부드러운 특성을 제공한다. 저자들은 일반화 함수(분포)의 푸리에 변환을 이용해 커널 추정식의 편향을 정확히 전개하고, 기존 2차 커널 대비 O(h^p) (p>2) 수준의 고차 편향 감소를 수학적으로 증명한다. 여기서 h는 대역폭이며, 무한 차수 커널은 h가 작아질수록 편향이 급격히 감소하면서도 분산 증가가 제한적임을 보인다.

또한, “상대 결핍(deficiency) 분석”이라는 새로운 평가 틀을 제시한다. 이는 두 추정량의 평균제곱오차(MSE)를 비교해 차이를 표본 크기 n에 대한 함수로 표현하고, 결핍률(deficiency rate)을 정의해 기존의 “결핍 수” 개념을 연속적인 스케일로 확장한다. 이 틀을 통해 무한 차수 커널 추정기가 경험분포함수(Empirical Distribution Function, EDF)와 Kaplan‑Meier 추정치에 비해 n^{1/2} 수준의 결핍률을 보이며, 특정 정규성 가정 하에서는 비대칭 효율(Asymptotic Relative Efficiency, ARE)이 1을 초과함을 확인한다.

대역폭 선택에 있어서는, 무한 차수 커널의 특성을 반영한 자동 선택 알고리즘을 설계한다. 이 알고리즘은 데이터의 특성(예: 스무스함 정도, 관측치의 밀도)과 커널의 푸리에 지원 범위를 동시에 고려해 최적 h를 최소화한다. 특히, 작은 표본에서 과도한 평활화로 인한 편향을 방지하면서도 충분한 평활화를 제공하도록 설계돼, 시뮬레이션 결과에서 평균제곱오차가 기존 방법 대비 20~35% 감소함을 보여준다.

이러한 이론적 결과와 실험적 검증을 종합하면, 무한 차수 커널 기반 추정기는 고차 편향 감소와 적절한 분산 제어를 동시에 달성함으로써, 특히 검열(censoring) 데이터가 포함된 생존 분석 상황에서 기존 비모수적 방법을 능가한다는 점을 강조한다.