유전 알고리즘 기반 위원회형 에이전트의 확장성 및 최적화 연구

초록

주식 시장을 모사하기 위해 신경망을 학습하는 에이전트들로 구성된 위원회 집단을 구현하였다. 각 위원회는 게임 내 플레이어로 간주되며, 유전 알고리즘을 이용해 에이전트의 구조를 지속적으로 적응시켜 최적화한다. 위원회는 (1) 현재 주가를 획득하고, (2) 미래 주가를 예측하며, (3) 모든 플레이어가 만족할 때까지 주식을 매매한다는 절차에 따라 거래한다. 매매 규칙은 다음과 같다: (1) 가격 상승을 예상하면 매수, (2) 가격 하락을 예상하면 매도, (3) 플레이어의 참여 순서는 무작위이다. 본 방법을 다우존스, 나스닥, S&P 500 세 종목에 적용하였다. 시뮬레이션 실행 시간은 플레이어 수와 에이전트 수에 대해 선형 관계를 보였으며, 어느 한 플레이어도 독점적 이점을 갖지 못함을 확인하였다.

상세 요약

이 논문은 복합적인 멀티에이전트 시스템을 금융 시장 시뮬레이션에 적용한 점에서 흥미롭다. 기존의 주가 예측 연구는 주로 개별 인공신경망이나 전통적인 통계 모델에 의존했지만, 여기서는 ‘위원회(committee)’라는 집단적 의사결정 구조를 도입함으로써 개별 에이전트의 한계를 보완한다. 위원회 내 에이전트들은 각각 독립적인 신경망을 가지고 학습하며, 유전 알고리즘(GA)을 통해 네트워크 아키텍처(예: 은닉층 수, 뉴런 수, 활성화 함수 등)를 동적으로 진화시킨다. 이는 하이퍼파라미터 최적화를 전통적인 그리드 탐색이나 베이지안 최적화 대신 진화적 탐색으로 대체함으로써, 탐색 공간이 매우 넓은 상황에서도 비교적 효율적인 수렴을 기대할 수 있다.

시뮬레이션 흐름은 크게 세 단계로 나뉜다. 첫째, 모든 위원회가 현재 시장 가격을 수집한다. 둘째, 각 위원회는 자체 신경망을 이용해 미래 가격을 예측한다. 셋째, 예측 결과에 따라 매수·매도 의사를 표명하고, 무작위 순서로 매매가 진행된다. ‘모든 플레이어가 상호 만족’한다는 조건은 시장이 균형에 도달했음을 의미한다. 이 과정에서 거래량과 가격 변동이 자연스럽게 발생하며, 실제 시장의 비대칭 정보와 비선형 반응을 어느 정도 재현한다는 점이 장점이다.

실험 결과는 두 가지 주요 인사이트를 제공한다. 첫째, 시뮬레이션 실행 시간은 플레이어 수와 에이전트 수에 대해 선형적으로 증가한다는 점이다. 이는 알고리즘이 병렬화에 적합하고, 규모 확대 시에도 계산 복잡도가 급격히 증가하지 않음을 시사한다. 둘째, 어느 한 위원회도 독점적 이익을 얻지 못한다는 ‘무독점성’ 결과는 진화적 최적화가 과적합(overfitting)이나 특정 전략에 편향되는 것을 방지한다는 의미로 해석될 수 있다. 다만, 논문에서는 ‘모든 플레이어가 만족’이라는 정의가 구체적이지 않아, 실제 수렴 기준이 모호할 수 있다. 또한, 유전 알고리즘의 파라미터(돌연변이율, 교배 방식 등)와 신경망 구조 변이 범위가 상세히 제시되지 않아 재현 가능성이 떨어진다.

한계점으로는 시장 외부 요인(예: 뉴스, 정책 변화)과 거래 비용을 배제했기 때문에, 결과를 실제 금융 시장에 바로 적용하기는 어렵다. 또한, 세 종목만을 대상으로 했으며, 포트폴리오 다변화 효과나 상관관계 분석이 부족하다. 향후 연구에서는 (1) 강화학습과 GA를 혼합한 하이브리드 최적화, (2) 실시간 데이터 스트리밍과 연계한 온라인 학습, (3) 거래 비용 및 슬리피지(slippage)를 포함한 보다 현실적인 마켓 메커니즘을 도입함으로써 모델의 실용성을 높일 수 있다. 마지막으로, 위원회 간 협력·협상 메커니즘을 추가하면, 현재의 ‘경쟁적’ 구조를 넘어 협동적 시장 행동을 탐구할 수 있을 것이다.