알려지지 않은 분산 하에서의 스파스 회귀: 라쏘 기반 두 가지 추정 전략
본 논문은 분산이 미지인 고차원 선형 모델에서 회귀계수 β와 분산 σ²를 동시에 추정하는 두 가지 라쏘(LASSO) 변형을 제안한다. 전략(A)는 경험적 분산을 이용해 정규화 파라미터 λ를 조정하고, 전략(B)는 적합도와 ℓ₁ 페널티 사이의 비율을 고정한다. 두 방법 모두 기존의 Coherence 기반 가정 하에 정확한 지지(support)와 부호 복원을 확률적 보장하며, 비대칭 신호대잡음비(SNR) 상황에서도 실험적으로 우수한 성능을 보인다.
저자: Stephane Chretien, Sebastien Darses
1. 서론 및 배경
- 고차원 선형 회귀 y = Xβ + z 를 다루며, p≫n, β는 s‑sparse, σ²는 미지인 상황을 설정한다.
- 기존 연구는 σ²가 알려진 경우 라쏘(LASSO)와 Dantzig selector 를 통해 정확한 지지 복원을 보였으며, 이를 위해 λ≈σ√(log p) 로 설정한다.
- 그러나 σ²가 미지일 때 λ 선택이 불가능해지므로, 두 가지 새로운 전략을 제안한다.
2. 관련 연구 검토
- 라쏘와 Dantzig selector 의 이론적 기반, Coherence 기반 설계 행렬 조건, Irrepresentable Condition 등 기존 가정을 정리한다.
- 분산 추정과 라쏘 결합에 관한 선행 연구(예: AIC/BIC, 복합 페널티,
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기