K폴드 교차검증 기반 라쏘의 점근 이론과 부트스트랩 타당성

초록

**
본 논문은 이질분산 선형 회귀모형에서 K‑fold 교차검증으로 선택된 라쏘 페널티가 (n^{1/2})‑일관성을 갖지만 변수 선택 일관성(VSC)은 만족하지 않음을 증명한다. 또한, 페널티와 추정량에 대한 부트스트랩 방법을 제안하고, 그 분포 근사 타당성을 이론적으로 입증한다. 시뮬레이션과 실제 데이터 분석을 통해 제안 방법의 실용성을 확인하였다.

**

상세 분석

**
이 논문은 두 가지 핵심 질문에 답한다. 첫째, K‑fold 교차검증(CV)으로 선택된 라쏘 페널티 (\hat\lambda_{n,K})가 변수 선택 일관성(VSC)을 달성하는가? 둘째, (\hat\lambda_{n,K})를 사용한 라쏘 추정량 (\hat\beta_n(\hat\lambda_{n,K}))가 (n^{1/2})‑일관성을 보이는가?

먼저 저자는 (\hat\lambda_{n,K})가 (n^{-1}) 수준으로 수렴한다는 사실을 보인다. 이는 Knight‑Fu(2000)의 정리와 결합해 (\hat\beta_n(\hat\lambda_{n,K}))가 (\beta)에 일관적임을 의미한다. 이어서 ({n^{-1/2}\hat\lambda_{n,K}})가 확률적으로 유계임을 (1.5)식으로 증명한다. Lahiri(2021)의 결과에 따르면, 이 조건은 VSC가 불가능함을 시사한다. 즉, CV 기반 라쏘는 중요한 변수들을 완전히 골라내지 못한다.

다음 단계에서는 ({n^{-1/2}\hat\lambda_{n,K}})의 분포 수렴을 다룬다. 저자는 Lasso 해의 해석 경로에 대한 stochastic equicontinuity를 Proposition 4.1에서 제시하고, 이를 기반으로 Dudley의 거의 확실한 표현 정리를 활용해 (,n^{-1/2}\hat\lambda_{n,K}\xrightarrow{d}\hat\Lambda_{\infty,K}) (식 1.6) 를 얻는다. 여기서 (\hat\Lambda_{\infty,K})는 Table 1에 정의된 복합적인 랜덤 변수이다.

이 수렴 결과를 이용해 (\hat\beta_n(\hat\lambda_{n,K}))의 중심화·스케일링된 형태가
\