ASTRA와 LLM 통합: 에이전트 프로그래밍의 새로운 지평

초록

본 논문은 ASTRA 에이전트 프로그래밍 언어에 LangChain4J 기반 LLM 연동 라이브러리(ast​ra‑langchain4j)를 구현하고, OpenAI와 Google Gemini을 활용한 프롬프트 템플릿, Belief‑RAG 메커니즘, 그리고 여행 플래너와 같은 실제 사례 3가지를 통해 초기 사용 경험을 정리한다.

상세 분석

ASTRA는 전통적인 BDI(신념‑욕구‑의도) 기반 멀티‑에이전트 프레임워크로, 모듈을 통해 센서·액션·프레디케이트·터미널·이벤트 등을 확장한다. 본 연구는 이러한 모듈 구조 위에 Java 기반 LangChain4J를 래핑한 astra‑langchain4j 라이브러리를 추가함으로써, 에이전트가 직접 LLM 호출, 프롬프트 템플릿 정의·재사용, 그리고 Belief‑RAG를 통한 지식 보강을 수행하도록 설계했다.

1. 라이브러리 구조

   • 네 개의 모듈(OpenAI, Gemini, Template, BeliefRAG)과 두 개의 보조 에이전트 클래스(OpenAIAgent, GeminiAgent)로 구성된다.
   • Template 모듈은 PromptTemplate, ResponseTemplate, RAGTemplate을 제공하며, ${parameter} 형태의 바인딩을 지원한다.
   • BeliefRAG 모듈은 에이전트의 신념베이스에 저장된 사실(predicate)들을 텍스트 형태로 추출해 프롬프트에 삽입, LLM에게 컨텍스트를 제공한다.

2. 프롬프트 템플릿 설계

   • 템플릿은 추상 클래스 AbstractTemplate을 상속해 구현되며, reset()으로 바인딩을 초기화한다.
   • PromptTemplate은 정적 텍스트와 변수 바인딩을 결합해 LLM에 전달하고, ResponseTemplate은 LLM 응답에서 변수 값을 역추출한다.
   • RAGTemplate은 BeliefRAG와 결합해 신념 기반 입력을 자동 생성한다.

3. LLM 연동 구현

   • OpenAI와 Gemini 각각에 대해 initialize(key, params?)와 chat(prompt, reply) 메서드를 제공한다.
   • Maven Central에 배포되어 기존 ASTRA 프로젝트에 pom.xml에 의존성만 추가하면 바로 사용 가능하다.

4. 예제 시스템

   • Travel Planner: AutoGen 예시를 재현, 4개의 전문 에이전트(Planner, Local, Language, Summary)가 RoundRobinGroupChat을 통해 협업. 메인(Main) 에이전트가 FIPA‑Request 프로토콜로 각 에이전트에 작업을 할당하고, 결과를 종합해 최종 여행 일정 반환.
   • Joker Agent: 동적 변수 ${animal}을 이용해 농담 프롬프트를 생성하고, LLM 응답을 파싱해 결과를 콘솔에 출력. 템플릿 재사용과 바인딩 초기화가 핵심.
   • Happy Agent: Yes/No 질문을 템플릿화하고, 응답에서 answer 변수를 추출해 논리적 흐름을 구현.

5. 경험 및 교훈

   • 모듈화의 장점: ASTRA의 기존 모듈 메커니즘을 그대로 활용해 LLM 연동을 캡슐화함으로써 코드 중복을 최소화하고, 다른 LLM(예: Claude, LLaMA) 추가가 용이했다.
   • 프롬프트 관리: 템플릿 기반 접근이 복잡한 프롬프트를 구조화하고 재사용성을 높였지만, 파라미터 바인딩 오류가 발생하면 디버깅이 어려워 별도 검증 로직이 필요했다.
   • Belief‑RAG 한계: 신념베이스가 단순 문자열 predicate에 의존하기 때문에, 복합적인 지식(예: 트리 구조, 시계열 데이터)에는 부적합했다. 향후 온톨로지 기반 변환기가 요구된다.
   • 성능·비용: LLM 호출이 네트워크 I/O와 비용을 크게 차지했으며, 에이전트 내부에서 캐시 전략을 도입하지 않으면 동일 질문에 대한 중복 호출이 발생한다.
   • 멀티‑에이전트 협업: FIPA‑Request와 RoundRobinGroupChat을 조합한 설계가 비교적 간단히 구현 가능했지만, 에이전트 간 비동기 응답 처리와 타임아웃 관리가 추가적인 복잡성을 야기했다.

전반적으로 astra‑langchain4j는 전통적인 BDI 에이전트와 최신 LLM 기술을 연결하는 실용적인 브리지 역할을 수행한다. 모듈화, 템플릿 기반 프롬프트 관리, Belief‑RAG 등은 향후 에이전트 플랫폼이 LLM을 내재화할 때 고려해야 할 핵심 설계 패턴을 제시한다.