고차원 가법 등위 회귀를 위한 라쏘 이소톤

초록

본 논문은 다변량 예측변수와 반응 변수 사이의 관계를 단조 증가하는 일변량 함수들의 합으로 모델링하는 가법 등위 회귀에, 라쏘(LASSO) 아이디어를 접목한 LISO(LASSO Isotone) 방법을 제안한다. 고차원 상황에서 변수 선택과 추정 정확도를 동시에 달성하도록 설계되었으며, 수정된 백피팅 알고리즘 CPAV를 기반으로 수렴성을 보이고, 시뮬레이션을 통해 성능을 검증한다. 또한 단조성 방향이 사전 알려지지 않은 경우를 위한 확장 방안도 제시한다.

상세 분석

LISO는 기존 가법 등위 회귀의 핵심 아이디어인 백피팅(backfitting) 구조에 라쏘 패널티를 도입함으로써 변수 선택과 함수 추정을 동시에 수행한다. 구체적으로, 각 변수 j에 대해 단조 증가 제약을 만족하는 최소제곱 문제를 풀면서, L1 패널티 λ‖f_j‖₁을 추가한다. 이때 f_j는 이소톤(isotonic) 함수 공간 내에서의 베이스 함수들의 계수 벡터로 표현되며, 라쏘 패널티는 불필요한 변수의 전체 함수 형태를 0으로 수축시켜 변수 선택 효과를 만든다.

알고리즘은 기존 CPAV(Constrained Pool Adjacent Violators) 절차를 변형한 “Isotonic Pool Adjacent Violators with Lasso” 단계와, 전체 모델에 대한 라쏘 업데이트를 반복하는 두 단계로 구성된다. 첫 단계에서는 현재 잔차에 대해 각 변수별 등위 회귀를 수행하고, 풀링(pooling) 과정에서 라쏘 패널티를 적용해 계수를 shrinkage한다. 두 번째 단계에서는 전체 목표 함수에 대한 라쏘 최적화를 수행해 λ에 따라 변수의 활성화/비활성화를 조정한다.

수렴 이론은 두 단계가 각각 비증가성(monotone decreasing) 특성을 갖는 점을 이용해, 전체 반복이 목표 함수 값을 감소시키며 제한된 하한에 수렴함을 보인다. 특히, 등위 회귀 단계는 PAVA(POOL Adjacent Violators Algorithm)의 전통적인 수렴성을 유지하고, 라쏘 단계는 좌표 하강법(coordinate descent)의 전형적인 수렴 조건을 만족한다. 따라서 전체 알고리즘은 전역 최소점에 수렴한다는 수치적 보장을 제공한다.

시뮬레이션에서는 (1) 저차원에서 기존 등위 백피팅과 비교해 변수 선택 정확도가 크게 향상되고, (2) 고차원(p≫n) 상황에서 라쏘 패널티가 과적합을 효과적으로 억제함을 확인한다. 또한, 단조성 방향이 사전에 알려지지 않은 경우를 위해 양방향(isotonic and antitonic) 후보를 동시에 고려하고, 교차 검증을 통해 최적의 방향을 선택하는 확장 모델을 제안한다. 이 확장은 실제 데이터에서 변수별 단조성의 이질성을 반영할 수 있어 실용성을 높인다.

핵심 기여는 다음과 같다. 첫째, 라쏘와 등위 제약을 결합한 새로운 정규화 프레임워크를 제시함으로써 고차원 가법 모델링에 변수 선택 메커니즘을 도입했다. 둘째, 기존 백피팅 알고리즘을 라쏘 패널티와 호환되도록 수정하고, 수렴성을 이론적으로 증명했다. 셋째, 시뮬레이션을 통해 제안 방법이 기존 등위 백피팅 대비 변수 선택 정확도와 예측 성능 모두에서 우수함을 입증했다. 넷째, 단조성 방향이 불확실한 경우를 위한 확장 방안을 제시해 실제 응용 가능성을 확대했다.