적응형 신뢰구간으로 최적 근사 모델 찾기

본 논문은 고차원 선형 회귀 모델 \(X_n=\theta_n+\varepsilon_n\) ( \(\varepsilon_n\sim N_n(0,\sigma^2I_n)\) )에서, 위험 \(R(\hat\theta,\theta)=\mathbb{E}\|\hat\theta-\theta\|^2\) 을 최소화하는 모델을 찾는 전통적인 모델 선택 문제와는 달리, “위험이 최소인 후보 모델 집합” \(K_n(\theta)=\arg\min_{c\in C_n}R(\hat\theta^{(c)},\theta)\) 에 대한 적응형 신뢰구간 \(\hat K_{n,\alpha}\) 을 구축하는 새로운 프레임워크를 제시한다. 1. **문제 설정 및 기존 한계** - 고차원 상황에서 파라미터 \(\theta_n\) 의 정확한 추정은 불가능에 가깝고, 대신 비정규성(예: 일부 계수가 0이거나 매우 작음)을 이용해 차원 축소를 시도한다. - Li(1989)의 결과는 파라미터 전체에 대한 신뢰구간 직경이 \(O(n^{1/4})\) 보다 작아질 수 없음을 보여, 적응형 신뢰구간 구축에 큰 제약을 부과한다. - 그러나 위험을 기준으로 한 “최적 근사 모델”이라는 목표는 파라미터 전체가 아니라 모델 집합 자체에 대한 불확실성을 다루므로, 기존 하한을 회피할 가능성을 제공한다. 2. **위험 추정량과 다중스케일 차이 과정** - 후보 모델 \(\hat\theta^{(k)}\) 은 앞쪽 \(k\) 개의 관측값을 그대로 사용하고 나머지는 0으로 두는 “nested” 구조를 갖는다. - 편향 보정된 위험 추정량 \(\hat R_n(k)=\sum_{i>k}(X_i^2-\hat\sigma_n^2)+k\hat\sigma_n^2\) 을 정의하고, 위험 차이의 중심화된 버전 \(\hat D_n(j,k)=\hat R_n(j)-\hat R_n(k)-