변분 가로테: L₀ 정규화 기반 고속 희소 회귀 기법
본 논문은 L₀ 정규화를 적용한 새로운 변분 방법인 “변분 가로테(VG)”를 제안한다. 변분 근사와 MAP 추정을 결합해 이산 선택 변수 sᵢ를 연속적인 기대값 mᵢ로 대체하고, mᵢ에 따라 입력 공분산 행렬을 동적으로 조정하는 ‘변분 리지 항’으로 문제의 랭크를 보완한다. 실험에서 VG는 라쏘, 릿지, 최근 제안된 페어드 평균장(PMF) 방법보다 예측 정확도와 모델 복원 능력이 우수하며, 특히 상관성이 높은 고밀도 데이터에서 빠른 수렴 속도를…
저자: Hilbert J. Kappen, Vicenc{c} Gomez
본 논문은 “변분 가로테(Variational Garrote, VG)”라는 새로운 희소 회귀 방법을 제안한다. 기존의 L₀ 정규화 기반 스파스 모델링은 이산 선택 변수 sᵢ를 포함하기 때문에 조합 폭이 2ⁿ에 달해 정확한 추정이 불가능하고, MCMC나 복잡한 변분 베이즈 접근이 필요했다. 저자들은 이러한 문제를 해결하기 위해 변분 근사를 이용해 sᵢ를 연속적인 기대값 mᵢ(=E_q
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기