딥러닝, 포트폴리오 최적화의 새로운 패러다임을 열다

초록

본 연구는 딥러닝 모델을 활용해 포트폴리오의 샤프 지수를 직접 최적화하는 종단간(end-to-end) 프레임워크를 제안합니다. 기존 방법과 달리 수익률 예측 단계를 생략하고, 시장 정보를 입력받아 신경망이 포트폴리오 비중을 직접 출력하도록 합니다. 개별 주식 대신 ETF(상장지수펀드) 지수를 활용해 자산 선택 범위를 축소하고 다양화 효과를 극대화했으며, 2011년부터 2020년 4월까지의 테스트 기간 동안 제안 방법이 기존 다양한 최적화 알고리즘을 성능 면에서 압도하는 결과를 보였습니다.

상세 분석

본 논문이 제안하는 방법론의 기술적 핵심은 ‘예측을 거치지 않는 종단간 최적화’에 있습니다. 기존 모던 포트폴리오 이론(MPT)이나 평균-분산 최적화가 먼저 각 자산의 미래 수익률을 예측한 후 이를 바탕으로 포트폴리오를 구성하는 2단계 접근법이라면, 본 연구는 LSTM(Long Short-Term Memory) 신경망에 과거 가격 및 수익률 데이터를 입력하면 바로 포트폴리오 가중치 벡터가 출력되도록 설계했습니다. 이 출력값(포트폴리오 비중)으로 계산된 실제 포트폴리오 수익률의 샤프 지수를 손실 함수로 삼아, 그래디언트 어센트(Gradient Ascent)를 통해 신경망의 파라미터를 직접 업데이트합니다. 이는 궁극적인 목표인 ‘위험 대비 수익률 최대화’를 손실 함수로 직접 사용함으로써, 예측 오차 최소화와 실제 포트폴리오 성과 최대화 사이의 괴리를 해소한 혁신적인 접근법입니다.

또한, 모델 구조 설계에서도 실용적인 고려사항이 반영되었습니다. 출력층에 소프트맥스(Softmax) 함수를 적용해 포트폴리오 가중치의 합이 1이 되도록 제약하며, 롱-온리(Long-only) 포트폴리오 구성을 가능하게 합니다. 입력 데이터로는 VTI(미국 전체 주식), AGG(미국 총채권), DBC(상품), VIX(변동성) 지수 ETF의 가격과 수익률을 사용해, 개별 자산의 방대한 선택지 문제를 우회하면서도 다양한 자산군에 대한 노출을 확보했습니다. 이들 지수 간의 상관관계가 낮아 다양화 효과가 크다는 점이 실험을 통해 강조됩니다.

실험 설계의 주목할 점은 ‘변동성 스케일링(Volatility Scaling)‘과 거래 비용을 명시적으로 고려했다는 것입니다. 모델이 생성한 포트폴리오 비중에 사전에 설정한 목표 변동성 수준에 맞춰 레버리지를 조정함으로써, 투자자의 위험 선호도에 맞춘 성과를 낼 수 있도록 했습니다. 또한, 거래 비용을 수익률 계산 공식에 포함시켜 다양한 비용 환경에서의 전략 건전성을 평가했습니다. 이러한 실용적인 테스트는 이론적 모델을 실제 운용 가능한 전략으로 발전시키는 데 기여합니다.

결과적으로, LSTM 기반의 단순한 신경망 구조로도 고정 배분(Fixed Allocation), 평균-분산 최적화(MV), 최대 다양화 포트폴리오(MD) 등 전통적인 방법론들을 샤프 지수, 최대 낙폭(Max Drawdown) 등 주요 성과 지표에서 크게 앞섰습니다. 이는 복잡한 경제적 예측 모델 없이도 시장 데이터의 순차적 패턴을 학습하는 딥러닝의 힘으로 포트폴리오 구성 문제를 효과적으로 해결할 수 있음을 시사합니다. 특히 2020년 초 COVID-19로 인한 금융 시장 불안정기 동안에도 견고한 성능을 유지한 점은 이 방법론의 실용적 가치를 높여줍니다.