수축 추정기를 활용한 평균·공분산 추정이 포트폴리오 효율성에 미치는 영향

초록

본 연구는 평균‑분산(MV)과 전역 최소분산(GMV) 포트폴리오 모델에 대해 다섯 가지 평균 수축 추정기와 열한 가지 공분산 수축 추정기를 결합하여 성능을 평가한다. 6개 시장(저차원·고차원 포함)의 일일 가격 데이터를 11년간 사용하고, 1년 학습‑창을 기준으로 3개월·6개월·1년의 세 가지 테스트 기간을 적용한 롤링 윈도우 방식을 채택하였다. 각 포트폴리오의 위험·수익 특성을 DEA‑슈퍼 효율성 모델로 순위화한 뒤, 전통적인 MV, GMV, MiniMax, CVaR, SMAD 모델과 비교하였다. 실증 결과, 대부분의 상황에서 Ledoit‑Wolf 2‑parameter 공분산 수축 추정기(COV2)를 사용한 GMV 모델이 전반적인 투자자에게 최적이며, COV2와 샘플 평균(SM)을 결합한 MV 모델이 수익 중심 투자자에게 더 적합함을 확인했다.

상세 분석

본 논문은 현대 포트폴리오 이론의 핵심인 평균‑분산 최적화가 ‘입력 추정 오류’에 극도로 민감하다는 점을 출발점으로 삼는다. 특히 평균 추정의 불확실성이 공분산 추정보다 포트폴리오 가중치에 미치는 영향이 크다는 기존 연구(예: Michaud, 1989)를 재확인하고, 이를 완화하기 위한 두 가지 전략을 제시한다. 첫 번째는 평균을 무시하고 전역 최소분산(GMV) 모델에 집중하는 것이고, 두 번째는 평균·공분산 모두에 대해 수축(shrinkage) 기법을 적용해 추정의 편향‑분산 트레이드오프를 최적화하는 것이다.

수축 추정기의 선택 폭이 넓다. 평균에 대해서는 James‑Stein(JS), Bayes‑Stein(BS), Quadratic(QUAD), Bodnar‑Optimal(BOP) 등 네 가지 선형·비선형 형태를 검토한다. 공분산에 대해서는 Ledoit‑Wolf(LW) 계열의 선형(LW‑1), 두 파라미터(LW‑2), 비선형(NL), Hilbert‑transform 기반, 역고유값 수축 등 총 열한 가지를 포함한다. 특히 LW‑2(COV2)는 샘플 공분산을 두 개의 목표 행렬(동질·대각선)으로 가중 평균하는 방식으로, 차원 비율(p/n)에 따라 자동으로 최적 가중치를 결정한다는 장점이 있다.

데이터는 미국 DJ30, 인도 NIFTY50, 영국 FTSE100(저차원)과 미국 S&P500, Russell1000, 일본 TOPIX1500(고차원)으로 구성된다. 고차원 시장에서는 p>n 상황이 발생해 전통적인 샘플 공분산이 역행렬을 구할 수 없으므로, 수축 추정기 중 적용 가능한 8가지만을 사용한다. 롤링 윈도우는 1년 학습‑기간을 고정하고, 3개월·6개월·1년의 테스트 기간을 순차적으로 이동시켜 3개의 아웃‑오브‑샘플 구간을 생성한다.

포트폴리오 성과 평가는 단순 수익·위험 지표를 넘어, DEA‑슈퍼 효율성 모델을 도입해 투자자 그룹(A: 균형, B: 공격적, C: 보수)별 선호도를 반영한다. DEA는 각 포트폴리오를 DMU로 보고, 입력(예: 변동성, VaR)과 출력(예: 평균수익, 샤프비율)을 다중 목표로 최적화한다. 효율성 점수가 높은 포트폴리오를 상위 10위에 선정하고, 이를 시장별·전역적으로 두 차례(시장 최고, 보편 최고) 추출한다.

비교 대상은 전통적인 샘플 평균·공분산 기반 MV·GMV, MiniMax, CVaR, SMAD(반평균절대편차) 모델이다. 실험 결과는 다음과 같이 요약된다. (1) 평균 수축보다는 공분산 수축이 포트폴리오 효율성에 더 큰 영향을 미친다. 특히 COV2가 다수의 시장·그룹에서 최상위에 오른다. (2) GMV + COV2 조합은 위험 회피형 투자자(C그룹)와 균형형 투자자(A그룹) 모두에게 일관된 초과 수익을 제공한다. (3) MV + COV2 + SM 조합은 수익 추구형 투자자(B그룹)에게 가장 높은 효율성 점수를 기록한다. (4) 샘플 평균·샘플 공분산을 그대로 사용하는 전통적 MV·GMV는 대부분의 테스트 기간에서 효율성 점수가 현저히 낮으며, 특히 고차원 시장에서 과적합 현상이 두드러진다. (5) MiniMax, CVaR, SMAD 등 위험 측정 기반 대안 모델은 특정 상황에서 경쟁력을 보이지만, 전반적인 평균 효율성에서는 COV2 기반 모델에 뒤처진다.

이러한 결과는 수축 추정기의 선택이 ‘시장 차원(p/n 비율)’과 ‘투자자 위험·수익 선호’에 따라 달라져야 함을 시사한다. 특히 고차원 데이터에서는 공분산 수축이 필수적이며, 두 파라미터(LW‑2) 방식이 가장 안정적인 추정치를 제공한다는 점이 주목할 만하다. 또한, DEA‑슈퍼 효율성 프레임워크를 활용한 다목표 순위화는 전통적인 단일 지표 기반 평가보다 포트폴리오 선택의 정밀도를 높이는 유용한 도구임을 확인한다.