하이브리드 양자클래식 금융 보안 시스템 VQC 예측 QUBO 최적화 사후 양자 서명

초록

본 논문은 변분 양자 회로(VQC) 기반의 수익·변동성 예측, 이를 QUBO 형태로 변환한 포트폴리오 최적화, 그리고 포스트‑양자 서명을 결합한 엔드‑투‑엔드 파이프라인 HQFS를 제안한다. 실험 결과, 기존 클래식 모델 대비 예측 오차를 7.8 %·6.1 % 감소시키고, 샤프 비율을 9.4 % 향상시키며, 최적화 시간도 28 % 단축하였다. 또한 모든 재조정 결과에 디지털 서명을 부여해 규제 환경에서의 추적 가능성을 확보한다.

상세 분석

HQFS는 금융 리스크 관리의 두 핵심 단계—시계열 예측과 제약이 있는 포트폴리오 최적화—를 하나의 연속적인 흐름으로 통합한다는 점에서 혁신적이다. 첫 번째 단계에서는 변분 양자 회로(VQC)를 사용해 시계열 특성을 양자 상태로 인코딩하고, 파라미터화된 양자 회로와 작은 클래식 헤드를 공동 학습한다. 이 구조는 전통적인 딥러닝 모델이 포착하기 어려운 고차원 상관관계와 비선형성을 양자 중첩으로 표현함으로써, 수익과 변동성 두 목표를 동시에 예측한다. 손실 함수는 MSE 기반의 반환 예측 손실과 변동성 예측 손실을 가중치 β로 조절해 균형을 맞추며, L2 정규화(λ)로 과적합을 억제한다.

두 번째 단계에서는 예측된 기대수익 μ̂와 공분산 Σ̂을 이용해 평균‑분산 목표를 정의하고, 이를 이산화된 비트 변수 x로 변환한다. 각 자산당 B비트(예: 4~6비트)를 사용해 가중치를 근사하고, 전체 예산 제약을 정규화 상수 Z로 구현한다. 이렇게 구성된 QUBO는 quadratic term Q와 제약 위반을 penalize하는 ρc 항을 포함한다. 양자 어닐러가 이용 가능할 경우 실제 양자 하드웨어에 제출하고, 없을 경우 클래식 휴리스틱(예: Simulated Annealing)으로 동일한 QUBO를 해결한다. 이중 백업 전략은 현재 하드웨어 제한을 감안한 실용성을 제공한다.

세 번째 단계는 포스트‑양자 서명이다. 각 재조정 시점 t에 대해 모델 파라미터(θ,ϕ), 최종 가중치 w_t, 그리고 타임스탬프를 해시한 뒤, 양자 내성 서명키(sk)로 서명한다. 검증자는 공개키(pk)만으로 서명과 해시를 검증함으로써, 어떤 모델 버전이 언제 어떤 결정을 내렸는지 완전한 감사 기록을 확보한다. 이는 규제 요구사항인 투명성·무결성을 충족시키는 핵심 메커니즘이다.

실험은 S&P 500 일일 데이터셋을 사용해 5개의 무작위 시드에 대해 평균±표준편차를 보고한다. 예측 단계에서는 ARIMA, LSTM, GRU, TCN, Transformer와 비교했을 때 MAE와 MSE 모두에서 최고 성능을 기록했으며, 특히 변동성 예측 상관계수도 가장 높았다. 최적화 단계에서는 동일한 입력을 사용한 등비중(EW), 클래식 평균‑분산(PG), 그리고 클래식 이산형 휴리스틱(SA‑QUBO)과 비교했을 때 연간 샤프 비율이 9.4 % 상승하고 최대 손실(MDD)이 11.7 % 감소했다. 또한 QUBO 해결 시간은 28 % 단축돼 실시간 운용에 가까운 속도를 보였다.

핵심 인사이트는 다음과 같다. 첫째, VQC 기반의 양자‑클래식 하이브리드 모델이 기존 딥러닝 대비 시계열 예측 정확도를 실질적으로 향상시킨다. 둘째, QUBO 이산화와 양자 어닐링을 활용하면 대규모 제약 포트폴리오에서도 계산 복잡도를 크게 낮출 수 있다. 셋째, 포스트‑양자 서명을 결합함으로써 모델·결정의 변조 위험을 최소화하고, 규제 감시 체계에 필요한 검증 가능성을 제공한다. 마지막으로, 양자 하드웨어가 아직 제한적이지만, 클래식 백업 솔버와의 원활한 전환 설계가 실제 산업 현장에 바로 적용 가능한 점을 보여준다.