전체 시스템 성능 최적화를 위한 다중 에이전트 접근법

초록

본 논문은 마이크로서비스 환경에서 정적 제어·데이터 흐름과 아키텍처 의존성을 통합한 다중 에이전트 프레임워크를 제시한다. 요약, 분석, 최적화, 평가 네 가지 역할의 에이전트가 순차적으로 협업해 시스템 전반의 병목을 식별하고, 코드·구성 변경을 자동 생성·검증한다. 프로토타입을 Java 기반 TeaStore 마이크로서비스에 적용한 결과, 처리량이 36.58 % 증가하고 평균 응답 시간이 27.81 % 감소하였다.

상세 분석

이 연구는 기존 LLM 기반 코드 최적화가 함수·클래스 수준의 로컬 변환에 머무는 한계를 인식하고, 시스템 수준의 성능 병목을 탐지·해소하기 위한 새로운 설계 패러다임을 제시한다. 핵심 아이디어는 정적 분석 엔진(CodeQL)으로부터 추출한 제어‑흐름 그래프, 데이터‑흐름, 호출 그래프, 그리고 서비스 경계·API 의존성 같은 아키텍처 메타데이터를 구조화된 “요약” 형태로 변환하는 것이다. 이러한 요약은 두 종류의 요약 에이전트(컴포넌트 요약, 행동 요약)와 환경 요약 에이전트가 각각 담당한다. 컴포넌트 요약은 서비스·패키지·클래스·메서드 계층 구조와 정적 의존성을 매핑하고, 행동 요약은 인터‑프로시저 호출 경로, 동기화 지점, 데이터베이스 접근 패턴 등을 캡처한다. 환경 요약은 빌드·배포 설정, 컴파일러 옵션, 런타임 파라미터 등을 기록해 최적화 단계에서 인프라 제약을 고려하도록 만든다.

요약 데이터를 기반으로 분석 에이전트는 다단계 추론 파이프라인을 수행한다. 첫째, 정적 병목 신호(예: 높은 호출 빈도, 복잡한 제어 흐름, 비효율적인 DB 쿼리)를 추출하고, 둘째, 해당 신호와 연관된 코드 영역을 정밀히 검사한다. 셋째, 예상 성능 향상량과 적용 위험도를 정량화해 우선순위를 매긴다. 분석 결과는 소스 파일·라인, 위험도, 기대 효과를 포함한 구조화된 보고서 형태로 출력된다.

최적화 에이전트는 분석 보고서를 입력으로 받아, LLM(gpt‑5.2)에게 “비파괴적” 코드·구성 변경을 제안하도록 프롬프트를 구성한다. 비파괴성은 공개 API·서비스 인터페이스를 수정하지 않으며, 기존 테스트를 통과하도록 보장하는 제약 조건으로 구현된다. 제안된 패치마다 기술적 근거와 예상 성능 개선 메커니즘을 문서화한다.

성능 평가 에이전트는 자동화된 JUnit 테스트 스위트를 이용해 기능적 회귀를 검증하고, Apache JMeter 기반 워크로드로 동적 프로파일링을 수행한다. 각 최적화 후보는 베이스라인과 비교해 지연시간, 처리량, CPU·메모리 사용량 등을 측정하고, 개선 여부에 따라 피드백을 분석·최적화 에이전트에 반환한다. 이 피드백 루프는 최적화가 더 이상 유의미한 이득을 제공하지 않을 때까지 반복된다.

프로토타입 구현은 Python 기반 LangGraph와 LangSmith을 활용해 에이전트 간 데이터 흐름과 실행 추적을 관리한다. 정적 분석은 CodeQL 쿼리 팩을 커스터마이징해 Java 코드에서 서비스 경계와 데이터 접근 패턴을 추출했으며, 결과를 언어‑중립 JSON 형태로 파이프라인에 공급한다. 실험 대상인 TeaStore는 6개의 REST 기반 마이크로서비스로 구성된 전형적인 전자상거래 시나리오이며, 800 000 요청을 동일 조건에서 실행해 성능 변화를 측정했다. 결과는 처리량이 36.58 % 상승하고 평균 응답 시간이 27.81 % 감소했으며, 모든 기능 테스트를 통과함을 확인했다.

이 논문의 주요 기여는 (1) 정적 제어·데이터 흐름과 아키텍처 의존성을 통합한 시스템‑레벨 요약 모델, (2) 요약·분석·최적화·평가 네 단계 에이전트의 협업 메커니즘, (3) 실제 마이크로서비스에 적용해 의미 있는 성능 향상을 입증한 프로토타입이다. 한편 제한점으로는 현재 정적 분석에 의존해 런타임 동적 특성을 충분히 포착하지 못한다는 점, 최적화·평가 단계가 별도 프로세스로 구현돼 파이프라인 자동화가 미완성이라는 점, 그리고 LLM 프롬프트 설계가 도메인‑특화 지식에 크게 좌우된다는 점을 들 수 있다. 향후 연구에서는 동적 트레이싱과 머신러닝 기반 비용 모델을 결합해 예측 정확도를 높이고, CI/CD 파이프라인에 완전 통합해 실시간 최적화를 지원하는 방향을 제안한다.