다중 에이전트 프롬프트 최적화와 갈등 해소를 위한 MAPGD

초록

MAPGD는 프롬프트를 여러 전문 에이전트가 동시에 개선하도록 설계한 프레임워크이다. 각 에이전트는 명령 명료성, 예시 선택, 형식, 스타일 등 서로 다른 차원을 담당하고, 텍스트 형태의 ‘의사‑그라디언트’를 생성한다. 생성된 의사‑그라디언트는 의미 임베딩 공간에 투사돼 각도 기반 클러스터링(HCGC)으로 갈등을 구분하고, 검증 성능에 따라 가중치를 동적으로 조정하는 CAAW를 통해 융합된다. 실험 결과, 단일 에이전트 방식보다 정확도와 효율성이 모두 향상되었으며, 수렴 이론도 제공한다.

상세 분석

MAPGD는 기존 프롬프트 최적화가 “단일 경로”에 의존해 발생하는 불안정성, 신호 충돌, 높은 쿼리 비용 문제를 근본적으로 재구성한다. 핵심 아이디어는 프롬프트 개선을 다중 전문 에이전트가 각각 독립적으로 수행하도록 하는 것이다.

1. 전문화된 에이전트 설계 – 에이전트는 ‘명령 명료성’, ‘예시 선택’, ‘형식 구조’, ‘스타일 적응’ 등 서로 직교하는 차원을 담당한다. 이는 각 에이전트가 특정 오류 유형에 집중하도록 하여 신호의 다양성을 확보하고, 조기 수렴을 방지한다.
2. 텍스트 의사‑그라디언트 생성 – 각 에이전트는 모델의 오류를 분석하고, “이 부분을 이렇게 바꾸라”는 자연어 형태의 수정 제안을 만든다. 이는 연속적인 임베딩 그라디언트와 달리 해석 가능성을 유지한다.
3. HCGC (Hypersphere‑Constrained Gradient Clustering) – 의사‑그라디언트를 𝑑‑차원 의미 벡터 𝑣 로 임베딩하고 단위 구면에 정규화한다. 코사인 유사도가 사전 정의된 임계값 θ_conflict 이하이면 갈등으로 판단하고, 코사인 K‑means 로 클러스터링한다. 클러스터 수는 현재 에이전트 수와 사전 설정된 K_max 사이에서 동적으로 결정된다.
   • 각도 마진 제약: 클러스터 내 코사인 거리는 작게, 클러스터 간 거리는 크게 유지하도록 n·α < β (n≥1) 조건을 적용한다. 이는 의미적으로 충돌하는 제안을 물리적으로 분리해, 클러스터 경계가 모호해지는 현상을 방지한다.
4. CAAW (Channel‑Adaptive Agent Weighting) – 동일 클러스터 내에서도 에이전트별 신뢰도가 다를 수 있다. 검증 데이터에서 각 에이전트가 가져온 성능 향상 s_k(t)를 수집하고, 소프트맥스 형태의 가중치 w_k(t)=exp(λ·s_k)/∑_j exp(λ·s_j) 로 변환한다. λ는 가중치 분포의 날카로움을 조절한다. 이렇게 하면 일관된 성능을 보인 에이전트가 더 큰 영향력을 갖게 된다.
5. 그라디언트 융합 및 프롬프트 업데이트 – 클러스터별 가중 평균(또는 LLM‑guided synthesis)으로 하나의 통합 의사‑그라디언트를 만든 뒤, 후보 프롬프트를 생성하고 예산 제한 밴딧 선택으로 최종 프롬프트를 결정한다.
6. 이론적 수렴 보장 – MAPGD는 전통적인 확률적 그라디언트 하강법과 유사한 수렴 속도 O(1/√T)를 증명한다. 핵심 가정은 의사‑그라디언트가 실제 손실의 무편향 추정이며, HCGC와 CAAW가 가중치를 제한된 범위 안에서 조정한다는 점이다.
7. 실험 – 텍스트 분류, 추론(예: GSM‑8K) 등 다양한 벤치마크에서 단일‑에이전트 및 무작위 베이스라인 대비 평균 1.2~3.5%p의 정확도 향상을 기록했다. 특히 예산이 제한된 상황에서 효율성이 크게 개선되었다. Ablation 실험은 HCGC 없을 경우 클러스터 충돌이 증가해 성능이 급락하고, CAAW를 제거하면 노이즈 에이전트가 과도하게 영향력을 행사해 불안정해짐을 보여준다.
8. 한계와 향후 과제 – 현재 에이전트 역할은 사전 정의된 고정 집합이며, 동적으로 새로운 역할을 생성하거나 에이전트 간 협상 메커니즘을 도입하는 연구가 필요하다. 또한, 의미 임베딩 ϕ(·)가 사전 학습된 LLM에 의존하므로, 도메인‑특화 임베딩이 없을 경우 클러스터링 품질이 저하될 수 있다.

종합하면 MAPGD는 “프롬프트 최적화 = 다중 전문가 협업”이라는 패러다임을 제시하고, 기하학적 클러스터링과 적응형 가중치를 통해 갈등을 체계적으로 해소한다. 이는 해석 가능성을 유지하면서도 기존 단일‑에이전트 방식보다 높은 안정성과 효율성을 제공한다.