쿼리 인식 메모리 예산 제어를 위한 BudgetMem 프레임워크

초록

BudgetMem은 런타임에 쿼리‑특화 메모리를 추출하면서, 각 모듈을 저·중·고 3단계 예산 티어로 제공하고, 강화학습 기반 라우터가 비용과 성능을 균형 있게 조절하도록 설계된 시스템이다. 구현, 추론, 용량 3가지 티어링 전략을 비교 실험을 통해 검증하였다.

상세 분석

본 논문은 LLM 에이전트가 장기 대화나 문서 흐름을 다룰 때 필수적인 메모리 관리 문제를 ‘쿼리 인식’ 방식으로 재정의한다. 기존 오프라인, 쿼리‑비종속 메모리 구축은 불필요한 연산을 초래하고, 특정 질문에 필요한 핵심 정보를 놓칠 위험이 있다. BudgetMem은 이러한 한계를 극복하기 위해 메모리 추출 파이프라인을 다단계 모듈 구조로 설계하고, 각 모듈에 저(Low), 중(Mid), 고(High) 3개의 예산 티어를 부여한다. 티어는 (1) 구현 티어링 – 경량 규칙 기반 → BERT 기반 → 대형 LLM 순으로 구현 복잡도를 바꾸고, (2) 추론 티어링 – 직접 생성 → 체인‑오브‑생각 → 다단계 반사·재추론 등 추론 행동을 변화시키며, (3) 용량 티어링 – 모델 파라미터 수를 소형·중형·대형으로 조정한다는 세 축으로 구현된다.

라우터는 모든 모듈에 공유되는 경량 신경망으로, 현재 쿼리와 이전 모듈의 중간 상태를 입력받아 각 단계에서 어느 티어를 선택할지 결정한다. 라우터 학습은 강화학습(RL) 프레임워크를 사용해, ‘성능‑보상’(정답 정확도)과 ‘비용‑보상’(연산량·지연)을 동시에 최적화한다. 즉, 라우터는 예산 제한 하에서 가능한 최고의 성능을 끌어내는 정책을 스스로 학습한다.

실험은 세 가지 벤치마크(LoCoMo, LongMemEval, HotpotQA)를 대상으로 수행되었으며, 고예산 설정에서는 기존 최고 성능 모델을 능가하고, 저예산 상황에서는 정확도‑비용 프론티어를 크게 앞당겼다. 특히, 구현 티어링은 저예산에서 빠른 응답을 제공하면서도 충분한 정확도를 유지하는 데 유리했으며, 추론 티어링은 중·고예산에서 복잡한 추론이 필요한 질문에 강점을 보였다. 용량 티어링은 모델 규모 자체가 성능에 미치는 영향을 정량화하는 데 기여했으며, 대형 모델을 사용할 수 없는 환경에서 중간 규모 모델이 실용적인 절충점을 제공한다는 결론을 도출한다.

또한, 라우터가 선택한 티어 패턴을 분석함으로써, 쿼리 유형(예: 사실 추출 vs. 복합 추론)과 메모리 양(예: 짧은 대화 vs. 긴 문서) 사이의 상관관계를 시각화하였다. 이 분석은 실제 서비스에서 예산 정책을 동적으로 조정할 수 있는 근거를 제공한다.

전반적으로 BudgetMem은 런타임 메모리 추출을 모듈화하고, 예산‑성능 트레이드오프를 정량적으로 제어할 수 있는 최초의 프레임워크라 할 수 있다. 이는 LLM 기반 에이전트가 실시간 서비스 환경에서 비용 효율성을 유지하면서도 높은 품질의 응답을 제공하도록 하는 중요한 발걸음이다.