구조적 희소성을 위한 새로운 정규화 기법

본 논문은 구조적 희소성을 고려한 선형 회귀 모델의 정규화 방법을 체계적으로 제시한다. 서론에서는 고차원 데이터 분석에서 변수 선택의 중요성을 강조하고, 기존 Lasso(ℓ₁ 정규화)가 전역적인 희소성만을 촉진하는 한계점을 지적한다. 실제 많은 응용—예를 들어, 유전자 네트워크, 이미지 처리, 자연어 처리—에서는 변수들 간에 사전 정의된 그룹, 계층, 혹은 겹치는 관계가 존재한다. 이러한 구조적 정보를 정규화에 반영하면 추정 정확도와 해석 가능성을 크게 향상시킬 수 있다. 관련 연구 부분에서는 그룹 Lasso, 겹치는 그룹 Lasso, 트리 구조 Lasso, 토탈 변이(TV) 등 다양한 구조적 정규화 기법을 소개한다. 이들 방법은 각각 특정 구조에 특화되어 있으나, 일반적인 프레임워크가 부재하고, 겹치는 경우에는 패널티 중복 조정이 필요하다는 문제점이 있다. 본 논문의 핵심 기여는 절대값 벡터 \(w = (|β_1|,\dots,|β_p|)\)에 서브모듈러 함수 \(F:2^{