프롬프트에서 목표 지향 AI까지 에이전트형 소프트웨어 아키텍처 진화

초록

본 논문은 정적 프롬프트‑응답 방식에서 벗어나, 지속적인 상태 관리와 도구 호출, 메모리·계획·정책을 결합한 목표 지향 에이전트 시스템으로의 전환을 조명한다. 고전적인 반응형·계획형·BDI 모델을 LLM 기반 도구 사용, 메모리 증강, 다중 에이전트 협업과 연결시키고, 생산 환경에 적합한 레퍼런스 아키텍처, 다중 에이전트 토폴로지 분류, 엔터프라이즈 하드닝 체크리스트를 제시한다. 또한 주요 상용 플랫폼(Kore.ai, Salesforce Agentforce 등)의 구현 현황을 분석해 표준화된 에이전트 루프와 관측·거버넌스 메커니즘의 필요성을 강조한다.

상세 분석

논문은 먼저 AI 에이전트 이론의 역사를 재조명한다. 반응형 모델은 감지‑행동을 직접 매핑해 지연이 짧지만 복잡한 목표 달성에는 한계가 있다. 계획형 모델은 세계 모델과 탐색 기반 의사결정으로 설명 가능성을 제공하지만 연산 비용과 실시간성에서 제약을 받는다. BDI 프레임워크는 믿음·욕구·의도라는 세 축으로 상태·목표·행동을 명시적으로 분리해, 현대 LLM 에이전트가 차용할 수 있는 구조적 청사진을 제공한다.

이후 LLM 중심의 최신 접근을 검토한다. LLM은 이제 단순 텍스트 생성기가 아니라 ‘인지 커널’로서, 외부 도구 호출(function calling)과 메모리 증강(RAG) 기능을 통해 실제 작업을 수행한다. ReAct 패러다임은 사고 단계와 행동 단계를 교차시켜, 에이전트가 상황에 따라 계획을 수정하고 도구를 선택하도록 만든다. 논문은 이를 일반화한 알고리즘 1을 제시하며, 목표, 정책, 메모리, 도구 스키마를 입력으로 받아 반복적인 계획‑실행‑피드백 루프를 수행한다.

핵심 설계 원칙은 ‘인지와 실행의 분리’이다. 인지 레이어(LLM)는 고수준 목표 분해와 의사결정을 담당하고, 제어 레이어는 상태 머신, 재시도 로직, 서킷 브레이커 등을 통해 안전성을 보장한다. 도구 레이어는 타입이 명시된 인터페이스와 샌드박스 환경을 제공해, 외부 API 호출이나 코드 실행을 정책 기반으로 제한한다. 메모리 레이어는 작업 컨텍스트, 에피소드 기록, 벡터 검색 등을 관리해 비용 효율적인 컨텍스트 윈도우를 유지한다.

다중 에이전트 토폴로지는 크게 피어‑투‑피어, 중앙집중형 오케스트레이터, 분산형 네트워크로 구분된다. 각각은 역할 기반, 규칙 기반, 모델 기반 협업 전략을 사용한다. 논문은 협업 실패(오류 전파, 교착, 악의적 연합)와 그 완화책(타임아웃, 롤백, 정책 검증)을 체계적으로 정리한다.

엔터프라이즈 수준에서는 관측성, 거버넌스, 재현성이 필수다. 트레이스 로그, 프롬프트 버전 관리, 정책 엔진, RBAC, 비용/속도 제한 등이 교차 절단면으로 배치된다. ZenML·LangChain 같은 LLMOps 플랫폼은 파이프라인 정의와 실행 컨텍스트를 버전화해, 실험적 에이전트를 프로덕션에 안전하게 이식한다.

마지막으로 논문은 웹 서비스 진화와 유사하게, 표준화된 프로토콜·타입 계약·계층형 거버넌스가 에이전트형 AI의 대규모 채택을 이끌 것이라고 전망한다. 검증 가능성, 상호 운용성, 안전 자율성은 여전히 해결 과제로 남아 있다.