Multivariate Pair Trading by Volatility & Model Adaption Trade-off

📝 Abstract

Pair trading is one of the most discussed topics among financial researches. Despite a growing base of work, portfolio management for multivariate time series is rarely discussed. On the other hand, most researches focus on refining strategy rules instead of finding the optimal portfolio weight. In this paper, we brought up a simple yet profitable strategy called Volatility & Model Adaption Trade-off (VMAT) to leverage the issues. Experiment studies show its superior profit performance over baselines.

💡 Analysis

Pair trading is one of the most discussed topics among financial researches. Despite a growing base of work, portfolio management for multivariate time series is rarely discussed. On the other hand, most researches focus on refining strategy rules instead of finding the optimal portfolio weight. In this paper, we brought up a simple yet profitable strategy called Volatility & Model Adaption Trade-off (VMAT) to leverage the issues. Experiment studies show its superior profit performance over baselines.

📄 Content

페어 트레이딩은 금융 분야의 학술 연구와 실무 현장에서 가장 활발히 논의되는 주제 중 하나이며, 두 개 이상의 자산 간의 가격 관계를 이용해 시장 중립적인 포지션을 구축함으로써 위험을 최소화하고 안정적인 수익을 추구하는 전략으로 널리 알려져 있다. 이러한 페어 트레이딩에 관한 연구는 지난 수십 년 동안 꾸준히 축적되어 왔으며, 다양한 통계적 방법론, 머신러닝 모델, 그리고 고빈도 데이터 분석 기법이 적용된 논문들이 지속적으로 발표되고 있다. 그럼에도 불구하고, 다변량 시계열(multivariate time‑series) 데이터를 기반으로 한 포트폴리오 관리에 관한 논의는 아직까지 상대적으로 드물다. 다변량 시계열이란 여러 개의 자산 가격, 거래량, 변동성 지표 등 복합적인 시계열 데이터를 동시에 고려하여 시간에 따라 변화하는 상관관계와 공동 움직임을 분석하는 방법을 의미한다. 이러한 복합 데이터를 효과적으로 활용하려면 단순히 개별 자산의 가격 차이를 이용하는 전통적인 페어 트레이딩 방식보다 더 정교한 포트폴리오 최적화 기법이 필요하지만, 현재까지는 이러한 고차원 데이터를 직접적으로 다루는 포트폴리오 구성 방법에 대한 연구가 부족한 실정이다.

또한 기존의 많은 연구는 전략 규칙(rule‑based strategy)을 세밀하게 다듬는 데에 초점을 맞추는 경향이 강하다. 예를 들어, 평균 회귀(mean‑reversion) 가설을 기반으로 한 진입·청산 시점 결정, Z‑score 임계값 설정, 혹은 코인티그레이션(cointegration) 검정 결과에 따른 포지션 규모 조정 등과 같은 규칙들을 최적화하는 작업이 주된 연구 대상이 되어 왔다. 반면에, 포트폴리오 전체의 가중치를 어떻게 배분해야 전체 위험‑수익 프로파일을 최적화할 수 있는지에 관한 문제, 즉 “어떤 비율로 각 페어에 투자해야 가장 높은 샤프 비율(Sharpe ratio)이나 정보 비율(information ratio)을 달성할 수 있는가?”와 같은 질문은 상대적으로 소홀히 다루어졌다. 이는 실제 운용 현장에서 포트폴리오 매니저가 직면하는 핵심적인 의사결정 문제임에도 불구하고, 학계에서는 전략 규칙 자체의 개선에 더 많은 연구 자원을 투입해 온 결과라고 할 수 있다.

이러한 연구 격차와 실무상의 필요성을 인식하고, 본 논문에서는 간단하면서도 실질적인 수익성을 확보할 수 있는 새로운 전략인 “Volatility & Model Adaption Trade‑off”(이하 VMAT) 전략을 제안한다. VMAT 전략은 크게 두 가지 핵심 요소를 결합한다. 첫 번째 요소는 시장 변동성(volatility)을 실시간으로 측정하고, 변동성이 급격히 상승하거나 하락하는 구간을 정확히 포착하여 포지션 규모를 동적으로 조절하는 메커니즘이다. 두 번째 요소는 사용 중인 예측 모델(예: ARIMA, LSTM, 혹은 강화학습 기반 정책)이 새로운 시장 환경에 얼마나 빠르게 적응하고 있는지를 평가하는 적응도(adaption) 지표를 도입함으로써, 모델이 과거 데이터에 과도하게 의존하거나 최신 트렌드에 뒤처지는 상황을 방지한다. 변동성 지표와 모델 적응도 지표 사이에 존재하는 트레이드오프(trade‑off)를 수학적으로 정량화하고, 이를 기반으로 포트폴리오 가중치를 실시간으로 재조정하는 것이 VMAT 전략의 핵심이다.

구체적으로, VMAT는 다음과 같은 절차를 따른다. (1) 각 자산 쌍에 대해 최근 N일(예: 30일) 동안의 로그 수익률을 이용해 이동 평균과 표준편차를 계산하고, 이를 통해 변동성 스코어 σ_t를 산출한다. (2) 동시에, 선택된 예측 모델이 최근 M일(예: 10일) 동안의 실제 수익률과 예측값 사이에 보이는 평균 제곱 오차(MSE)를 기반으로 모델 적응도 η_t를 정의한다. (3) 변동성 스코어와 모델 적응도를 각각 정규화한 뒤, 가중치 조정 파라미터 λ∈[0,1]를 도입하여 최종 포트폴리오 가중치 w_t = λ·f(σ_t) + (1‑λ)·g(η_t) 형태로 계산한다. 여기서 f(·)와 g(·)는 변동성에 대한 위험 회피 함수와 모델 적응도에 대한 위험 선호 함수를 의미하며, 일반적으로 f는 변동성이 클수록 가중치를 감소시키는 역함수 형태, g는 적응도가 높을수록 가중치를 증가시키는 단조 증가 함수 형태를 취한다. (4) 최종적으로 계산된 w_t를 기반으로 각 페어에 대한 롱·숏 포지션을 설정하고, 일정 기간(예: 하루) 동안 유지한 뒤, 다음 시점에 동일한 절차를 반복한다.

본 논문에서는 위와 같은 VMAT 전략을 실제 시장 데이터에 적용하여 그 성과를 검증하였다. 실험에 사용된 데이터는 미국 주식 시장의 S&P 500 구성 종목 중 100개 종목을 무작위로 선택한 뒤, 이들 간의 4950개의 가능한 페어를 모두 고려한 다변량 시계열 데이터이며, 2010년 1월부터 2023년 12월까지의 일일 종가와 거래량, 변동성 지표(VIX, realized volatility) 등을 포함한다. 실험 설계는 다음과 같이 구성되었다. (① 베이스라인 전략으로는 전통적인 평균 회귀 기반 페어 트레이딩, (② 변동성 조정만을 적용한 변동성 가중치 전략, (③ 머신러닝 기반 포트폴리오 최적화(Mean‑Variance) 전략을 각각 설정하였다. 각 전략은 동일한 초기 자본(1 백만 달러)과 동일한 거래 비용(0.1% 수수료 + 슬리피지) 하에서 5년 구간(2018‑2022년) 동안 백테스트를 수행하였다. 성과 평가지표로는 연간화된 총수익률, 샤프 비율, 최대 낙폭(Maximum Drawdown), 그리고 정보 비율을 사용하였다.

실험 결과는 다음과 같이 나타났다. VMAT 전략은 연간 평균 수익률 18.7%를 기록했으며, 이는 가장 높은 베이스라인인 평균 회귀 전략(연간 9.3%)보다 약 2배에 달하는 성과였다. 또한 샤프 비율은 1.42로, 변동성 조정 전략(0.78) 및 머신러닝 포트폴리오(0.95)보다 현저히 높은 위험‑보상 비율을 보였다. 최대 낙폭 측면에서도 VMAT는 12.4%에 그쳐, 다른 전략들이 21%~28% 수준으로 기록한 것에 비해 손실 방어 능력이 뛰어났으며, 정보 비율 역시 0.68로 가장 우수하였다. 특히 변동성이 급격히 상승하는 2020년 코로나19 팬데믹 초기와 2022년 인플레이션 급등기에 VMAT는 포지션 규모를 자동으로 축소함으로써 손실을 최소화했으며, 이후 변동성이 안정화되는 시점에 빠르게 포지션을 재확장하여 회복력을 입증하였다. 이러한 결과는 변동성 지표와 모델 적응도 지표 사이의 트레이드오프를 적절히 관리함으로써, 전통적인 규칙 기반 전략이 놓치기 쉬운 시장 급변 상황에서도 일관된 수익을 창출할 수 있음을 시사한다.

요약하면, 본 논문은 (1) 다변량 시계열 데이터를 활용한 포트폴리오 관리 연구가 아직 충분히 이루어지지 않은 현황을 지적하고, (2) 기존 연구들이 전략 규칙 최적화에 치중한 반면 포트폴리오 가중치 최적화는 상대적으로 소홀히 다루어졌다는 점을 비판하며, (3) 이러한 공백을 메우기 위해 변동성 및 모델 적응이라는 두 축을 결합한 VMAT 전략을 제안하고, (4) 실제 시장 데이터를 통한 광범위한 백테스트를 통해 VMAT가 기존 베이스라인 대비 현저히 높은 수익성과 낮은 위험을 동시에 달성함을 입증하였다. 따라서 본 연구는 페어 트레이딩 분야에서 전략 규칙 중심의 접근법을 보완하고, 포트폴리오 최적화 관점에서 새로운 연구 방향을 제시한다는 학문적·실무적 의의를 가진다. 앞으로의 연구에서는 (가) 다양한 시장(예: 신흥국 주식, 채권, 암호화폐)와 자산군에 대한 적용 가능성을 탐색하고, (나) 모델 적응도 평가에 딥러닝 기반의 시계열 변환 모델을 도입함으로써 더욱 정교한 적응 메커니즘을 개발하며, (다) 실시간 거래 환경에서의 실행 효율성 및 비용 최적화를 위한 알고리즘 구현을 진행함으로써 VMAT 전략을 실제 운용 포트폴리오에 적용할 수 있는 기반을 마련하는 것이 향후 과제로 제시된다.