장기 파생상품 딥 헤징: 비정규 손실 페널티와 강화학습의 혁신

초록

본 논문은 딥 강화학습(Deep Reinforcement Learning) 기반의 “Deep Hedging” 알고리즘을 활용해 장기 파생상품, 특히 변액연금에 내재된 룩백 옵션(최대값 보장)과 라쳇 구조를 전역적으로 헤징하는 방법을 제시한다. 기존의 2차 손실 페널티(Quadratic)와 달리 비정규(비대칭) 손실 페널티를 적용한 전역 헤징 정책이 Monte‑Carlo 실험에서 하방 위험을 2~3배 감소시키고 기대 수익을 크게 향상시킴을 입증한다. 또한 비정규 정책은 주식 위험에 대한 롱 포지션을 선호해 위험 프리미엄을 효과적으로 획득한다.

상세 분석

이 연구는 장기 만기(10년 이상) 파생상품을 대상으로 전역(Global) 헤징 프레임워크를 설계한다는 점에서 기존의 로컬 위험 최소화(Local Risk Minimization)나 그리스 기반 헷징과 근본적으로 차별화된다. 전역 접근은 전체 투자 기간에 걸친 손실 함수의 기대값을 최소화하도록 모든 시점의 포지션을 동시에 최적화한다는 의미이며, 이는 동적 프로그래밍의 차원 저주(Curse of Dimensionality)를 신경망(Neural Network) 기반 정책 근사와 강화학습을 통해 극복한다.

핵심 기술은 Buehler et al. (2019)의 Deep Hedging 알고리즘을 그대로 차용하면서, 손실 함수에 2차형(quadratic)과 비대칭형(non‑quadratic) 두 가지 페널티를 적용한 점이다. 비대칭형 페널티는 손실(헤징 부족)에는 큰 가중치를 부여하고, 이익에는 상대적으로 낮은 가중치를 부여함으로써 보험사의 “손실 회피” 목표와 일치한다. 실험에서는 (i) 기본 주식과 표준 유럽 옵션을 활용한 다중 헤징 도구, (ii) 주가 점프(Jump) 위험을 포함한 Merton‑type 모델, (iii) 다양한 위험 프리미엄 설정을 고려하였다.

Monte‑Carlo 시뮬레이션 결과, 비대칭 손실 페널티를 적용한 전역 정책이 VaR, CVaR, Expected Shortfall 등 하방 위험 지표에서 기존 베이스라인(그리스 기반, 로컬 위험 최소화, 2차 전역 헤징)보다 23배 낮은 값을 기록했다. 동시에 기대 포트폴리오 수익률은 58%p 상승했으며, 이는 주식 포지션을 평균 15~20% 확대한 결과와 일치한다. 즉, 비대칭 전역 정책은 “위험 프리미엄을 잡아먹는” 전략으로, 손실을 최소화하면서도 주식 시장 상승에 대한 노출을 늘린다.

또한 학습 과정에서 신경망이 시장 특성(점프 강도, 점프 빈도, 변동성 등)을 자동으로 인식하고, 해당 특성에 맞는 헤징 비율을 동적으로 조정한다는 점이 강조된다. 이는 사전 모델링 없이도 다양한 시장 시나리오에 적응 가능한 “데이터‑드리븐” 헤징 전략을 제공한다는 의미다.

마지막으로, 논문은 전역 헤징이 계산량이 크게 증가한다는 전통적 한계를 딥러닝 기반 근사와 병렬 Monte‑Carlo 시뮬레이션으로 완화했으며, 실제 보험사 수준의 포트폴리오(수십 개의 옵션, 연간 재조정)에도 적용 가능함을 시연한다.