고차원 다변량 회귀에서 지원 집합 복구

초록

본 논문은 다변량 회귀 모델에서 행 단위의 지원 집합(비영 행)의 정확한 복구를 목표로, ℓ₁/ℓ₂ 블록 정규화를 이용한 다변량 그룹 라소(multivariate group Lasso)의 샘플 복잡도 한계를 이론적으로 분석한다. 샘플 수 n, 변수 수 p, 비활성 행 수(p‑s)와 회귀계수 행렬 B의 sparsity‑overlap 함수 ψ(B)에 의해 정의되는 복합 파라미터 θ = n/

상세 분석

이 연구는 다변량 회귀 문제를 행‑열 구조가 결합된 고차원 상황으로 모델링한다. 응답 벡터 y∈ℝ^K 를 공통의 p 차원 설계 행렬 X∈ℝ^{n×p}에 대해 회귀시키며, 각 응답에 대한 회귀계수는 B*∈ℝ^{p×K} 로 표현된다. 핵심 관심사는 B*의 비영 행(즉, 하나라도 K 차원 중 하나라도 비영인 행)의 인덱스 집합 S⊂{1,…,p} 를 정확히 식별하는 ‘지원 집합 복구(support union recovery)’이다. 이를 위해 저자들은 ℓ₁/ℓ₂ 규제 ‖B‖{1,2}=∑{j=1}^p‖B_{j·}‖_2 를 적용한 다변량 그룹 라소 문제

\