통신 지연이 초래하는 대형언어모델 에이전트 협력 붕괴

초록

본 논문은 대형언어모델(LLM) 기반 다중 에이전트 시스템에서 통신 지연이 협력 행동에 미치는 영향을 실험적으로 분석한다. 저자들은 협력·경쟁을 동시에 요구하는 연속형 죄수의 딜레마 게임에 지연을 도입하고, 두 종류의 최신 LLM(GPT‑5‑mini, Claude Sonnet 4)으로 구현된 에이전트를 시뮬레이션한다. 결과는 지연이 증가할수록 에이전트가 상대의 반응을 이용해 착취 전략을 선택하게 되지만, 지연이 과도히 클 경우 착취 빈도가 감소해 협력 비율이 다시 상승하는 U자형 관계를 보임을 보여준다. 이를 통해 저자들은 협력 설계 시 고수준 제도적 메커니즘뿐 아니라 인프라 차원의 지연·자원 배분도 핵심 변수임을 강조한다.

상세 분석

이 연구는 LLM‑MAS(대형언어모델 기반 다중 에이전트 시스템)의 협력 메커니즘을 이해하기 위해 ‘FLCOA’라는 5계층 프레임워크를 제안한다. 1계층은 제도 설계, 2계층은 모니터링·제재, 3계층은 에이전트 자체, 4계층은 메시지 프로토콜, 5계층은 인프라(컴퓨팅·통신 자원)로 구성된다. 기존 연구는 주로 1~4계층에 집중했으나, 저자들은 특히 5계층인 통신 지연이 협력 형성에 미치는 영향을 실증적으로 규명하고자 한다.

실험 설계는 연속형 죄수의 딜레마(Continuous Prisoner’s Dilemma)를 기반으로 한다. 두 에이전트는 서버‑클라이언트 구조에서 서로의 전략 변화를 일정 지연 D_i 후에만 관찰할 수 있다. 각 시간 단계 Δt마다 에이전트는 과거 t_m 초 동안의 상태 변천사와 현재 전략·누적 보상을 프롬프트에 포함해 LLM에 전달하고, LLM은 (1) 상대 성향 추론, (2) 미래 보상 예측, (3) 다음 행동 선택을 출력한다. 여기서 LLM에게 주어진 유일한 목표는 ‘자신의 보상 최대화’이며, 지연을 이용한 착취를 명시적으로 장려하지 않는다.

실험 변수는 통신 지연(0 s, 5 s, 20 s 등)이며, 동일한 성격 특성(친화성 = 1, 성실성 = ‑1, 신경증 = 1)을 가진 두 에이전트를 10번씩 반복한다. 결과는 다음과 같다.

1. 협력 비율은 지연이 증가함에 따라 처음엔 감소하고, 일정 수준을 넘어가면 다시 상승하는 U자형 곡선을 그렸다. 이는 ‘중간 지연’이 착취를 촉진하지만, ‘과도한 지연’은 정보 비대칭을 완화해 착취 기회를 감소시키기 때문이다.
2. 착취 비율은 반대로 역U자형을 보이며, 5 s 정도의 중간 지연에서 최고치를 기록했다. 0 s와 20 s에서는 착취가 적지만, 0 s에서는 지속적인 착취·상호 배반이, 20 s에서는 착취가 산발적으로 발생한다는 차이가 있다.
3. 상호 배반 비율은 지연에 크게 영향을 받지 않아 비교적 일정했다.

두 LLM 모델 모두 동일한 패턴을 보였으며, 이는 모델 아키텍처보다는 시스템 레벨의 지연 특성이 행동 변화를 주도한다는 점을 시사한다. 저자들은 이러한 현상이 ‘전략적 타이밍’에 기반한 새로운 형태의 비협력 메커니즘이라고 해석한다. 즉, 에이전트는 상대가 아직 반응하지 않은 상태를 이용해 자신만 이득을 취하려는 ‘지연 착취’를 학습한다.

이러한 발견은 기존 MAS 설계에서 간과되던 인프라 차원의 변수, 특히 통신 지연과 컴퓨팅 자원 불균형이 협력 안정성에 결정적인 영향을 미칠 수 있음을 강조한다. FLCOA 프레임워크는 5계층 모두가 상호 보완적으로 작동해야 함을 제시하며, 특히 5계층에서 지연을 최소화하거나 지연 보상 메커니즘을 도입하는 것이 고수준 제도 설계만으로는 해결되지 않는 협력 붕괴를 방지하는 핵심 전략임을 주장한다.