고차원 회귀와 변수 선택을 위한 CAR 점수

초록

CAR 점수는 설명 변수들을 마할라노비스 변환으로 독립화한 뒤 회귀계수와 상관관계를 결합해 변수 중요도를 순위화하는 새로운 기준이다. 이 방법은 상관된 변수들을 그룹화하고 반대 효과를 갖는 변수는 가중치를 낮추며, 전체 설명력 분해와 마진 상관·표준화 회귀계수 사이의 중간값을 제공한다. 시뮬레이션과 실제 유전체·당뇨 데이터에서 elastic net·boosting 등 최신 방법과 비교했을 때 예측 오차와 TP/FP 비율이 우수함을 확인하였다. R 패키지 “care”가 CRAN에 공개돼 실무 적용이 용이하다.

상세 분석

CAR(Correlation-Adjusted Regression) 점수는 고차원 선형 회귀에서 변수 선택 문제를 해결하기 위해 제안된 새로운 순위 지표이다. 핵심 아이디어는 설명 변수들의 공분산 구조를 마할라노비스 거리(Mahalanobis distance)를 이용해 정규화·데코릴레이션(decorrelation)한 뒤, 각 변수와 반응 변수 사이의 상관관계를 재조정하는 것이다. 구체적으로, 원 변수 행렬 X를 공분산 Σ_X^(−1/2) 로 좌측 곱해 독립적인 좌표 Z = Σ_X^(−1/2)X 로 변환한다. 이렇게 변환된 Z는 서로 무상관이며, 각 Z_j와 반응 Y 사이의 피어슨 상관 r_j는 원 변수 X_j가 Y에 기여하는 순수한 효과를 반영한다. CAR 점수는 이 r_j에 표준화 회귀계수 β̂_j를 곱한 형태, 즉 CAR_j = r_j·β̂_j 로 정의된다. 따라서 마진 상관과 표준화 회귀계수 사이의 중간값으로, 변수 간 상관관계가 강할 경우 그룹화 효과가 나타나고, 상반된 방향의 효과를 가진 변수는 상쇄되어 점수가 낮아진다.

이론적으로 CAR 점수는 전체 설명력 R²를 각 변수별로 분해하는 additive property를 갖는다. 즉, Σ_j CAR_j² = R² (표본 기준) 가 성립하므로, 변수 선택 시 누적 CAR² 를 기준으로 설명력 손실을 정량화할 수 있다. 또한, CAR 점수는 모집단 수준의 양으로 정의되므로, 베이지안, 부트스트랩, 혹은 고정효과/랜덤효과 모델 등 다양한 추정 프레임워크에 적용 가능하다. 논문에서는 최소제곱 추정량을 기본으로 사용했지만, LASSO·elastic net 등 정규화된 추정량과도 호환 가능함을 보였다.

시뮬레이션에서는 (1) 독립 변수, (2) 강한 상관 구조를 가진 블록, (3) 상반된 효과를 가진 변수 쌍 등 네 가지 시나리오를 설정했다. 각 경우에 대해 CAR 기반 변수 선택, elastic net, LASSO, gradient boosting, 그리고 전통적인 marginal correlation 순위와의 성능을 비교하였다. 결과는 CAR가 특히 상관 블록 내에서 중요한 변수를 정확히 식별하고, 반대 효과를 가진 변수들을 자동으로 억제함으로써 false positive rate를 크게 낮추는 동시에 예측 오차(MSE)를 최소화한다는 점을 보여준다.

실제 데이터 적용에서는 (a) 당뇨병 진행 지표(Pima Indians Diabetes)와 (b) 인간 뇌 조직에서 연령에 따른 유전자 발현 변화를 분석했다. 두 데이터 모두 변수 수가 관측치 수보다 많거나 비슷한 고차원 상황이며, CAR 점수 기반 모델은 기존 연구에서 보고된 elastic net·boosting 결과와 비교해 동일하거나 더 낮은 교차 검증 오차와 더 직관적인 변수 그룹을 제공했다. 특히 뇌 유전체 데이터에서는 연령과 강하게 연관된 유전자 클러스터가 CAR 점수에 의해 자연스럽게 그룹화되어 생물학적 해석이 용이했다.

마지막으로 구현 측면에서 저자들은 R 패키지 “care” 를 개발해 CAR 점수 계산, 변수 선택, 모델 적합, 시각화 기능을 일괄 제공한다. 패키지는 기본적인 OLS, ridge, LASSO 추정기를 지원하고, 사용자 정의 추정기와도 인터페이스가 가능하도록 설계되었다. 이는 고차원 데이터 분석가가 기존 워크플로우에 CAR 점수를 손쉽게 통합할 수 있게 한다.

요약하면, CAR 점수는 마할라노비스 변환을 통한 변수 독립화와 회귀계수의 결합이라는 두 가지 핵심 원리를 통해, 상관된 고차원 변수들 사이에서 의미 있는 순위와 그룹화를 제공한다. 이론적 근거와 실험적 검증이 모두 충실히 제시되어 있어, 변수 선택이 핵심 과제인 유전체·표현형 연구에 실용적인 대안이 될 수 있다.