생성 모델과 강화학습을 결합한 재보험 최적화 하이브리드 프레임워크

초록

본 논문은 변분 오토인코더(VAE)로 다중 라인·다중 연도 청구 데이터의 복합 분포를 학습하고, 근접 정책 최적화(PPO) 강화학습으로 재보험 조약 파라미터를 동적으로 조정하는 하이브리드 프레임워크를 제안한다. 기대 잉여와 자본 제약, 파산 확률을 목표 함수에 포함시켜, 시뮬레이션 및 팬데믹·재해 충격 스트레스 테스트에서 기존 비례·손실제한 방식보다 높은 잉여와 낮은 꼬리 위험을 달성함을 보인다.

상세 분석

이 연구는 재보험 최적화 문제를 두 단계의 AI 기술로 분해한다. 첫 번째 단계에서는 VAE를 이용해 라인별·연도별 청구 손실의 다변량 분포를 비모수적으로 추정한다. VAE는 인코더‑디코더 구조를 통해 고차원 청구 데이터의 잠재 공간을 압축하고, 이를 기반으로 희귀 대형 손실(예: 재해, 팬데믹)까지 포괄하는 합성 시나리오를 생성한다. 이는 전통적인 로그정규·파레토 등 단일 분포 가정이 갖는 꼬리 위험 과소평가 문제를 완화한다.

두 번째 단계는 PPO 기반 강화학습 에이전트가 시뮬레이션된 청구 경로를 입력으로 받아, 매 시점마다 재보험 조약의 비율 파라미터(α), 층별 첨부·분리점(a_k, b_k) 및 조정량(δ_k, Δa_k, Δb_k)을 연속적인 행동으로 선택한다. 상태 변수는 현재 잉여, 과거 청구 이력, 기존 조약 파라미터, 외부 위험 지표 등으로 구성되며, 보상 함수는 (1) 기대 잉여 성장, (2) 파산 확률(또는 99.5% VaR) 초과 벌칙, (3) 재보험 프리미엄 비용을 가중합한 형태다. PPO는 클리핑 기법을 통해 정책 업데이트의 안정성을 보장하면서, 고차원 연속 행동 공간에서도 효율적인 탐색을 가능하게 한다.

핵심 기여는 다음과 같다. 첫째, 재보험 최적화 목표를 명확히 정의하고, 기대 잉여와 파산 확률을 동시에 제어하는 다목적 보상 설계 방식을 제시한다. 둘째, VAE 기반 생성 모델이 전통적 파라메트릭 적합 대비 데이터 희소성·다중 라인 상관 구조를 더 정확히 포착함을 실증한다. 셋째, PPO를 활용한 동적 조약 설계가 정적 비례·손실제한 기준에 비해 상위 5% 꼬리 손실을 현저히 감소시키면서 평균 잉여를 8~12% 향상시킨다.

실험에서는 로그정규, 파레토, 로그정규‑파레토 혼합 세 가지 청구 분포를 사용해 10년·다라인 시나리오를 생성하였다. 각 분포별로 10,000개의 경로를 VAE로 학습하고, 학습된 디코더로 100,000개의 합성 경로를 샘플링했다. 이후 PPO 에이전트를 5백만 스텝 훈련시켰으며, 수렴 후 정책은 30번의 독립 테스트 시뮬레이션에서 평균 잉여 1.12배, 파산 확률 0.018%(기준 0.05% 이하)로 기존 비례·손실제한(평균 잉여 0.96배, 파산 확률 0.042%)를 크게 앞섰다. 특히 팬데믹·대형 재해 충격 상황에서는 손실 상한을 동적으로 상향 조정하면서도 잉여 감소 폭을 최소화하는 정책을 학습, 전통적 고정 조약 대비 꼬리 손실 감소율이 35%에 달했다.

이와 같이 생성 모델과 강화학습을 결합한 프레임워크는 (1) 데이터 기반 꼬리 위험 모델링, (2) 실시간 규제·시장 변화에 대응하는 동적 재보험 설계, (3) 고차원 다라인 포트폴리오에 대한 전산 효율성을 동시에 만족한다는 점에서 재보험 실무와 학술 양쪽에 중요한 시사점을 제공한다.