전략적 하이브리드 점프‑확산을 위한 게임‑인‑게임 프레임워크와 HJI 계층 구조

초록

본 논문은 연속 상태와 이산 모드 전이가 동시에 일어나는 점프‑확산 시스템을 두 단계의 제로섬 게임으로 모델링한다. 내부 레이어는 각 모드에서의 강인 제어 게임을, 외부 레이어는 전이 강도를 전략적으로 조절하는 게임을 담당한다. Dynkin 공식과 점성 해석을 통해 연계된 Hamilton‑Jacobi‑Isaacs(HJI) 방정식 계를 도출하고, Linear‑Quadratic 및 지수‑Affine 형태에 대해 반폐쇄형 행렬 미분 방정식 해를 제시한다. 시장 미시구조 사례를 통해 외부 레이어의 전이 전략이 재고 스프레드를 사전 조정함으로써 ‘하이퍼‑알림’ 균형을 구현함을 보인다.

상세 분석

이 연구는 기존의 하이브리드 시스템 제어 문헌이 연속 제어와 이산 전이를 별도로 다루는 한계를 뛰어넘어, 두 레이어가 상호작용하는 ‘게임‑인‑게임’ 구조를 제안한다. 먼저 연속‑이산 혼합 동역학을 정의하고, 연속 레이어의 제어‑교란 쌍을 (U, W) 집합으로, 전이 레이어의 정책을 확률적 행동 집합(AD, AA)으로 모델링한다. 이때 전이 강도 μij는 외부 정책 f, g에 의해 실시간으로 조정되며, 이는 전통적인 외생 마코프 전이와는 근본적으로 다르다.

Dynkin 공식에 기반한 제네레이터 L을 도입해, 고전적인 확률적 미분 게임의 DPP를 두 단계로 분리한다. 내부 레이어에서는 고정된 전이 정책 하에 최소‑최대 문제를 풀어, 각 모드 i에 대한 가치 함수 Vi가 비선형 PIDEs 형태의 HJI 방정식을 만족함을 보인다. 여기서 Isaacs 조건이 성립하도록 일반화된 해밀토니안 H_i를 정의하고, 점성 해석을 통해 존재·유일성을 확보한다.

외부 레이어는 내부 레이어의 최적 가치 Vi를 비용 함수 φ에 삽입해, 전이 정책 (f, g)의 최적화를 수행한다. 이는 다시 전이 강도와 내부 가치의 상호 의존성을 포함하는 HJI 시스템을 만든다. 특히, 외부 레이어는 Stackelberg 형태의 선도‑후속 게임으로 해석될 수 있어, 정책 선택 시 미래 내부 최적 반응을 내재화한다.

주요 이론적 기여는 두 레이어의 HJI 방정식을 하나의 계층 구조로 결합하고, 이를 Linear‑Quadratic(LQ) 및 지수‑Affine(Exponential‑Affine) 게임에 대해 행렬 Riccati‑형 방정식으로 축소한 점이다. LQ 경우, 각 모드별 Riccati 방정식이 전이 강도 μij와 연결된 선형 항을 포함하는 연계된 미분 방정식으로 변환된다. 이때 스펙트럼 분석을 통해 시스템 안정성 조건과 최적 정책의 구조적 특성을 파악한다.

사례 연구에서는 시장 메이커와 고빈도 트레이더 사이의 적대적 재고 관리 게임을 설정한다. 외부 레이어는 시장 상황에 따라 전이 강도를 조절해 ‘불안정 모드’와 ‘안정 모드’를 전환시키고, 내부 레이어는 각 모드에서 최적 재고 스프레드와 헤징 전략을 도출한다. 결과적으로 전이 전략이 사전 경고 역할을 하여, 급격한 가격 변동에 대비한 ‘하이퍼‑알림’ 균형을 달성한다는 점을 실증한다.

이 논문은 (1) 하이브리드 점프‑확산 시스템에 대한 게임‑인‑게임 모델링, (2) 두 레이어 HJI 방정식의 점성 해석 및 존재성 증명, (3) LQ·Exponential‑Affine 경우의 반폐쇄형 행렬 해법, (4) 전이 전략이 시스템 전반에 미치는 영향을 스펙트럼 관점에서 분석한 점에서 학문적·실무적 의의를 갖는다. 다만, 전이 정책이 완전 관찰 가능하다는 가정과, 비용 함수가 특정 형태(LQ·CARA)로 제한된 점은 향후 연구에서 완화할 필요가 있다.