생태학적 시장 게임으로 보는 다중 에이전트 금융 전략 진화

초록

FinEvo는 개별 백테스트가 아닌, 여러 종류의 트레이딩 에이전트가 하나의 시장에서 상호작용하며 진화하는 생태학적 게임 프레임워크를 제시한다. 선택·혁신·환경 교란이라는 세 메커니즘을 SDE 형태로 모델링해 전략 집단의 동태와 시장 변동성을 정량화한다. 인공 충격과 실제 뉴스 흐름을 이용한 실험에서 전략 간 협력·경쟁 구조, 지배‑소멸 전이, 그리고 변동성 원천을 기존 정적 평가로는 포착할 수 없는 방식으로 드러낸다.

상세 분석

FinEvo 논문은 전통적인 금융 전략 평가가 개별 전략을 고정된 시장 환경에서 독립적으로 백테스트하는 한계를 짚고, 이를 “생태학적” 접근으로 전환한다는 점에서 혁신적이다. 먼저, 에이전트 레벨에서는 규칙 기반, 딥러닝, 강화학습, 대형 언어 모델(LLM) 등 네 가지 유형을 포함한 이질적인 트레이더들을 정의하고, 각 에이전트는 최근 가격 시계열과 외부 신호(뉴스, 거시경제 지표 등)를 입력으로 행동을 샘플링한다. 행동 공간은 매수·매도·리밋 주문·보유 등 전통적인 주문 유형을 포함한다.

핵심은 개별 전략이 내부 파라미터 Ψ_k를 통해 학습·조정되는 과정이다. 논문은 이를 일반적인 적응 연산자 A(·)로 추상화하고, 강화학습의 정책 그라디언트, 딥러닝의 역전파, LLM의 프롬프트 튜닝, 규칙 기반의 휴리스틱 업데이트 등 다양한 학습 메커니즘을 포괄한다. 또한, 각 전략은 장기 기대 가치를 Ornstein‑Uhlenbeck 과정으로 모델링해 외부 신호에 대한 수렴 속도 λ_k와 탐색 변동성 ν_k를 명시한다. 이는 단기 수익률이 아닌 전략의 “전망 가치”가 인구 수준 진화에 영향을 미치게 함을 의미한다.

인구 수준에서는 전략 비중 X_t ∈ Δ^{K‑1} 를 상태 변수로 두고, 선택·혁신·교란을 결합한 연속시간 SDE, 즉 FinEvo SDE를 제시한다. 선택 항은 β·diag(X_t)(V_t‑\bar V_t)·1 로, 전략 평균 수익과의 차이에 비례해 비중을 증감시킨다. 혁신 항은 μ·(m_t‑X_t) 로, Dirichlet 분포 m_t 를 통해 사회적 영향·실험을 모델링한다. 교란 항은 γ·diag(X_t)·σ·P(X_t)·dW_t 로, 각 전략별 변동성 σ_k 와 전체 교란 스케일 γ 를 반영한다. 이 세 항은 모두 단순히 확률적 마코프 과정이 아니라, 경제학적 의미를 가진 메커니즘으로 해석된다.

논문은 또한 독립 가정(A1‑A3)을 이용해 변동성 분해식을 도출한다. 선택에 의한 변동성은 β²·x_k²·ν_k²·λ_k² 로, 전략의 기대 가치 변동과 학습 속도에 의존한다. 혁신 변동성은 μ²·m_k(1‑m_k)·α_0+1 로, 혁신 강도와 Dirichlet 파라미터에 의해 결정된다. 교란 변동성은 γ²·