혼합형 데이터 분석의 새로운 지평: 정규화된 축소 랭크 회귀 모델 GMR4

초록

본 논문은 수치형, 이항형, 순서형 반응 변수와 예측 변수를 동시에 다루는 GMR3 모델을 확장한 GMR4 모델을 소개합니다. 고차원 데이터 설정에서의 성능 향상을 위해 Ridge, Lasso, Group Lasso 등의 정규화 기법을 통합하였으며, 교차 검증을 통해 최적의 랭크(S)와 패널티 파라미터(λ)를 선택하는 방법을 제안합니다. 시뮬레이션 연구를 통해 모델 성능을 평가하고, 이를 바탕으로 건강에 관한 공공 의견을 분석하는 실증 연구에 적용하여 해석 가능한 결과를 도출했습니다.

상세 분석

본 논문의 핵심 기여는 ‘혼합형(Mixed-Type)’ 데이터라는 현실적 도전과제를 체계적으로 해결하는 통합 프레임워크인 GMR4 모델을 제안한 점에 있습니다. 기존 다변량 회귀나 RRR(Reduced Rank Regression)은 연속형 변수에 국한되었으며, GMR3는 혼합형 데이터를 다룰 수 있지만 고차원성이나 다중공선성 문제에 취약했습니다. GMR4는 이러한 한계를 정규화(Penalization)로 돌파합니다.

기술적 혁신은 세 가지 축에서 이루어집니다. 첫째, **최적 척도화(Optimal Scaling)**를 통해 명목형/순서형 예측 변수를 수치화하며, 순서형 변수에는 단조성 제약을 부여해 원본 데이터의 속성을 보존합니다. 둘째, 패널티 가능도 함수를 설계하여 Lasso(개별 계수 선택), Ridge(계수 안정화), Group Lasso(변수 수준 선택) 등 다양한 정규화 전략을 단일 모델 내에서 유연하게 적용할 수 있게 했습니다. 이는 예측 변수가 특정 잠재 차원에만 영향을 미치거나( Lasso ), 아예 모든 반응 변수에서 제거되는(Group Lasso) 등 세밀한 해석을 가능하게 합니다. 셋째, MM(Majorization-Minimization) 알고리즘을 구조적 구성요소와 패널티 항 모두에 적용하여 복잡한 비볼록 최적화 문제를 효율적으로 해결합니다. 특히 패널티 항을 2차 함수로 상한화(Majorize)하여 표준적인 최소제곱 문제 형태로 변환하는 것이 핵심입니다.

이론적 타당성뿐 아니라 실용성을 강조한 점도 주목할 만합니다. 랭크(S)와 패널티 강도(λ)를 동시에 추정하는 교차 검증 절차를 제안하여 모델 선택 과정을 체계화했으며, 시뮬레이션을 통해 표본 크기, 무의미 예측 변수 수 등 다양한 시나리오에서의 모델 행동을 분석했습니다. 이를 통해 얻은 통찰을 ISSP 건강 조사 데이터 적용에 직접 활용하여 방법론과 실증 분석의 선순환 구조를 구축했습니다. 이는 사회과학 및 행동과학에서 흔히 마주하는 고차원 혼합형 데이터 분석에 강력한 새로운 도구를 제공한다는 점에서 의미가 큽니다.