다양성으로 풀어내는 LLM 기반 멀티에이전트 시스템의 스케일링 한계

초록

LLM 기반 멀티에이전트 시스템(MAS)은 에이전트 수를 늘려 성능을 향상시키려는 직관적 접근이 있지만, 동질적인 에이전트를 단순히 추가하면 정보 중복으로 인해 수익이 급격히 감소한다. 반면 모델, 프롬프트, 도구 등에서 이질성을 도입하면 서로 보완적인 증거를 제공해 효과적인 채널 수가 증가하고, 적은 수의 이질적 에이전트가 다수의 동질적 에이전트를 능가한다. 논문은 이를 정보이론적 프레임워크로 정량화하고, 라벨이 없는 채널 수 지표 K*를 제안한다.

상세 분석

본 논문은 LLM 기반 멀티에이전트 시스템(MAS)의 스케일링 현상을 정보이론적 관점에서 분석한다. 핵심 가정은 에이전트가 생성하는 출력이 ‘사용 가능한 증거(usable evidence)’ I_MAS(n)=I(Z₁:n;Y|X) 로 측정될 수 있다는 점이다. 여기서 Z_i는 i번째 에이전트 호출의 출력이며, Y는 정답, X는 입력이다. 체인 룰에 의해 I_MAS(n)=∑_{i=1}^n Δ_i 로 분해되는데, Δ_i는 이전 출력들을 조건으로 한 새로운 정보량이다. 동질적인 에이전트들은 출력이 고도로 상관되어 Δ_i가 급격히 감소하고, 결국 I_MAS(n)≤H(Y|X) 라는 ‘유한 정보 예산’ 한계에 빨리 도달한다.

다양성을 도입하면 서로 다른 구성(type) b∈B를 가진 에이전트들이 서로 독립적인 정보 채널을 제공한다. 논문은 각 타입별 단일 호출 정보 I_b와 최댓값 I_max^b 를 정의하고, 병렬·순차·토론(debate) 등 다양한 워크플로우에 대해 다음과 같은 상한을 제시한다.

• 병렬: I_parallel ≤ min{H(Y|X), Σ_{b∈B} m_b I_b }
• 순차: I_sequential ≤ min{H(Y|X), Σ_{b∈B} m_b I_max^b }

여기서 m_b는 타입 b가 사용된 호출 횟수이다. 즉, 성능은 ‘에이전트 수’가 아니라 ‘유효 채널 수(K)’에 의해 결정된다. 저자는 K라는 라벨‑프리 지표를 제안해, 실제 데이터에서 상관관계 기반으로 채널 독립성을 추정한다. 실험에서는 3가지 모델(Qwen‑2.5‑7B, Llama‑3.1‑8B, Mistral‑7B)과 다양한 프롬프트·도구 조합을 이용해 동질·이질 구성을 비교한다. 결과는 2개의 이질적 에이전트가 16개의 동질적 에이전트와 동등하거나 더 높은 성공률을 보이며, K가 높을수록 성능이 크게 향상됨을 확인한다.

이론적 기여는 (1) MAS 성능이 내재된 작업 불확실성 H(Y|X) 로 제한된다는 점을 명시적으로 증명, (2) 에이전트 구성을 타입 집합 B 로 추상화해 아키텍처 독립적인 상한을 도출, (3) 라벨이 없는 상황에서도 유효 채널 수를 정량화하는 K*를 제시한 것이다. 실용적 시사점은 ‘에이전트 수’를 무조건 늘리기보다, 서로 보완적인 모델·프롬프트·툴을 조합해 K를 극대화하는 설계가 비용 효율적이며, 시스템의 견고성도 향상된다는 점이다.