구조화된 희소 회귀를 위한 스무딩 프로시멀 그래디언트 방법

초록

본 논문은 입력·출력 변수의 구조적 정보를 반영하는 겹치는 그룹 라소와 그래프‑가이드드 퓨즈드‑라소와 같은 비분리·비부드한 정규화를 포함한 고차원 회귀 문제를 다룬다. 저자는 스무딩 기법과 프로시멀 그래디언트 알고리즘을 결합한 Smoothing Proximal Gradient(SPG) 방법을 제안하고, 기존 1차 방법·서브그라디언트·내부점법에 비해 빠른 수렴률과 높은 확장성을 입증한다. 시뮬레이션 및 실제 유전 데이터 실험을 통해 효율성을 검증하였다.

상세 분석

이 연구는 고차원 회귀 모델에 구조화된 희소성을 부여하는 두 가지 대표적인 페널티, 즉 겹치는 그룹‑라소(overlapping‑group‑lasso)와 그래프‑가이드드 퓨즈드‑라소(graph‑guided‑fused‑lasso)를 대상으로 한다. 두 페널티 모두 변수 간의 사전 정의된 관계(그룹 소속 혹은 그래프 인접성)를 반영하지만, 그 비분리성(separability)과 비부드함(nonsmoothness) 때문에 전통적인 최적화 기법으로는 효율적인 해를 얻기 어렵다. 특히, 겹치는 그룹‑라소는 그룹이 중첩될 경우 각 변수에 대한 페널티가 중복 계산되어 프로시멀 연산이 복잡해지고, 그래프‑가이드드 퓨즈드‑라소는 인접 변수 차이의 절대값 합을 최소화하므로 절대값 함수의 비부드함이 문제를 악화시킨다.

저자는 이러한 난점을 해결하기 위해 Nesterov의 스무딩 기법을 도입한다. 원래의 비부드한 정규화 항을 부드러운 근사함수로 대체함으로써, 미분 가능하고 리프시츠 연속인 그래디언트를 얻는다. 스무딩 파라미터를 적절히 조절하면 근사 오차를 ε 수준 이하로 제한하면서도, 부드러운 형태의 문제에 대해 빠른 1차 방법을 적용할 수 있다. 여기서 핵심은 스무딩된 정규화 항에 대해 효율적인 프로시멀 연산을 유지하는 것이다. 저자는 각 페널티에 대해 닫힌 형태의 프로시멀 연산을 유도하거나, 기존에 알려진 효율적인 알고리즘(예: 그룹‑라소의 경우 그룹별 soft‑thresholding, 퓨즈드‑라소의 경우 총합 최소화 문제에 대한 동적 계획법)을 그대로 활용한다.

SPG 알고리즘은 스무딩된 목표 함수를 고정된 스텝 사이즈와 가속화된 Nesterov 모멘텀을 결합한 프로시멀 그래디언트 업데이트로 최적화한다. 이때 수렴 이론에 따라 O(1/ε) 의 복합 복잡도를 보이며, 이는 전통적인 서브그라디언트 방법의 O(1/ε²) 보다 현저히 빠르다. 또한, 내부점법과 달리 메모리 요구량이 선형이며, 대규모 데이터셋에서도 GPU 가속이 용이하도록 설계되었다.

실험 부분에서는 합성 데이터에서 변수 수를 10⁴ 수준까지 늘려도 수렴 속도가 거의 일정함을 보였으며, 실제 유전 데이터(예: SNP‑gene 연관성 분석)에서는 기존 방법 대비 5~10배 빠른 실행 시간과 비슷하거나 더 낮은 예측 오차를 기록했다. 특히, 겹치는 그룹‑라소의 경우 그룹 구조가 복잡해질수록 전통적인 ADMM 기반 방법은 수렴이 지연되지만, SPG는 스무딩 파라미터만 적절히 조정하면 안정적으로 최적해에 도달한다.

결론적으로, 이 논문은 구조화된 희소 회귀 문제에 대해 스무딩과 프로시멀 그래디언트를 결합한 일반화 가능한 프레임워크를 제시함으로써, 비부드하고 비분리적인 정규화 항을 효율적으로 다룰 수 있는 새로운 길을 열었다. 향후 연구에서는 비선형 손실 함수(예: 로지스틱 회귀)나 동적 구조(시간에 따라 변하는 그래프)에도 동일한 접근법을 확장할 가능성이 제시된다.