리쥬 부스팅, 효율성과 견고함을 동시에 잡다

초록

본 논문은 단일 부스팅 단계와 커널 리쥬 회귀를 결합한 “리쥬 부스팅”이 RKHS 단위볼 안의 밀도비 변화를 포함한 다양한 분포 이동에 대해 편향을 거의 없애면서, 각 목표 추정량에 대해 반정규 효율성 한계에 도달하는 것을 증명한다. 즉, 하나의 모델만 학습하면 여러 목표 추정값을 동시에 견고하고 효율적으로 추정할 수 있다.

상세 분석

리쥬 부스팅은 기존의 효율성(semiparametric efficiency)과 견고성(multi‑accuracy)을 각각 별개의 방법으로 달성해야 한다는 전제에 도전한다. 논문은 먼저 목표 추정량을 연속적인 선형 함수 θ(f)=E_P