양자 강화 시계열 임베딩: 하이브리드 Seq2Seq와 RBF 기반 포트폴리오

초록

본 논문은 깊이 1의 변분 양자 회로(VQC)를 LSTM 게이트에 삽입한 QLSTM‑Seq2Seq 자동인코더를 제안한다. 2022‑2025년 S&P 500 주식의 주간 수익률을 14개의 롤링 윈도우로 학습·평가한 결과, 양자‑강화 인코더는 보다 부드러운 잠재 궤적과 섹터별 일관된 클러스터를 형성한다. 이 잠재 공간을 RBF 커널로 변환해 두 가지 포트폴리오 전략(RBF‑DivMom, RBF‑Graph)에 적용했을 때, 모두 전통적인 LSTM 기반 전략을 위험조정 성과에서 앞섰으며 특히 RBF‑Graph는 2.4배의 누적 수익을 달성하였다.

상세 분석

본 연구는 NISQ(Near‑Term Intermediate‑Scale Quantum) 환경에서 실용적인 양자‑클래식 하이브리드 모델을 구현한다는 점에서 의미가 크다. 저자들은 LSTM의 네 개 게이트(i, f, o, \tilde c) 각각에 깊이 1의 변분 양자 회로를 삽입했으며, 입력‑숨은 상태 벡터를 q‑차원으로 압축해 q‑큐빗 레지스터에 인코딩한다. 회로는 고정된 얕은 ansatz와 파울리‑Z 기대값 측정을 사용해 비선형 변환을 제공하고, 이후 시그모이드·tanh 비선형 함수와 결합한다. 이러한 설계는 양자 회로의 깊이를 최소화해 디코히런스와 게이트 오류를 억제하면서도, 고전 LSTM이 데이터가 희소하고 잡음에 민감한 금융 시계열에서 겪는 vanishing‑gradient 문제를 완화한다는 점에서 장점이 있다.

잠재 공간은 2차원으로 강제로 압축되었으며, 이는 시각화와 해석 가능성을 크게 높인다. 저자들은 유클리드 거리의 제곱을 기반으로 한 RBF 커널(K_{mn}=exp(-‖h_m−h_n‖²/2σ²))을 정의했으며, σ는 전체 쌍거리의 중앙값으로 설정했다. 이 커널은 원시 수익률이 아닌 QLSTM이 학습한 동적 패턴을 반영하므로, 클러스터 간 유사성을 정량화하고 포트폴리오 다변화에 직접 활용할 수 있다.

포트폴리오 전략은 두 가지로 구분된다. 첫 번째인 RBF‑DivMom은 모멘텀 신호에 기반해 개별 주식을 선택하되, RBF 커널 유사도에 따라 페널티를 부여해 과도한 집중을 방지한다. 두 번째인 RBF‑Graph는 커널을 가중치 행렬로 사용해 그래프 중심성(예: PageRank) 기반 연속 최적화를 수행한다. 두 전략 모두 롤링‑윈도우 방식으로 매 분기마다 모델을 재학습하고, 다음 분기에 적용해 누적 수익을 계산한다.

실험 결과는 두드러진 차이를 보인다. 14개의 롤링 윈도우 전체에 걸쳐 QLSTM 인코더는 섹터별 클러스터를 일관되게 유지했으며, 특히 변동성이 큰 구간에서도 잠재 궤적이 급격히 뒤틀리지 않았다. 이는 양자 회로가 제공하는 정규화 효과와 비선형성 덕분이라고 해석할 수 있다. RBF‑Graph는 평균 Sharpe 비율이 0.98 ~ 1.07 사이로 가장 높았으며, 최종 누적 가치가 2.40배에 달해 벤치마크(1.45배)와 QLSTM‑기반 DivMom(1.10배)을 모두 앞섰다. λ 파라미터(유사도 페널티) 탐색 결과, λ≈0.15에서 DivMom이 Graph와 가장 작은 성능 격차(Sharpe 차이 0.12)와 높은 수익률을 기록했다.

한계점으로는 양자 회로가 얕아 표현력에 한계가 있을 수 있다는 점, 그리고 매 분기마다 모델을 처음부터 재학습해야 하는 계산 비용이 있다. 또한, 실험은 S&P 500 주식에 국한돼 있어 다른 도메인(예: 센서 데이터, 네트워크 트래픽)으로의 일반화 검증이 필요하다. 그럼에도 불구하고, 본 연구는 NISQ 수준의 양자 회로가 실제 금융 시계열 모델링에 기여할 수 있음을 실증적으로 보여주며, 잠재 공간의 기하학적 특성을 경제적 레짐 지표로 활용하는 새로운 패러다임을 제시한다.