에지 스트림 서비스 자동 스케일링을 위한 에이전트 기반 최적화

초록

본 논문은 에지 디바이스에서 실행되는 다중 스트림 처리 서비스의 동적 자동 스케일링을 지원하는 플랫폼을 제시한다. 서비스별 파라미터를 실시간으로 모니터링하고, 컨텍스트 인식 스케일링 에이전트가 각 서비스의 행동 공간을 탐색해 최적 정책을 학습·적용한다. 데모와 아티팩트 레포지토리를 통해 사용자는 영상 요약, 포스터, 혹은 맞춤형 에이전트를 직접 구축할 수 있다.

상세 분석

이 연구는 에지 컴퓨팅 환경에서 스트림 처리 서비스가 직면하는 세 가지 핵심 문제를 체계적으로 해결한다. 첫째, 서비스 수요와 가용 자원이 시시각각 변동하기 때문에 전통적인 정적 스케일링 기법으로는 지연 시간 목표를 유지하기 어렵다. 논문은 이러한 변동성을 실시간 메트릭(CPU, 메모리, 네트워크 대역폭, 입력 데이터 레이트 등)으로 정량화하고, 컨텍스트 인식 스케일러가 이를 기반으로 서비스 인스턴스 수와 자원 할당을 동적으로 조정한다는 점에서 의미가 크다.

둘째, 각 스트림 처리 서비스는 자체적인 파라미터(예: 배치 크기, 윈도우 길이, 샘플링 비율 등)를 가지고 있어, 단일 스케일링 정책으로는 최적화를 달성하기 어렵다. 논문은 서비스별 파라미터 인터페이스를 표준화하고, 개발자가 이 인터페이스를 통해 파라미터를 실시간 조회·조정할 수 있게 함으로써, 다중 서비스가 공존하는 환경에서도 개별 최적화를 가능하게 한다.

셋째, 에지 디바이스는 제한된 물리적 자원을 공유하기 때문에, 서비스 간 자원 경쟁이 발생한다. 이를 방지하기 위해 제안된 플랫폼은 중앙 매개자 없이도 각 서비스가 자신이 사용할 수 있는 자원 한도를 선언하고, 스케일링 에이전트가 전역 자원 풀을 감시하며 서비스 간 공정성을 보장한다. 특히, 에이전트는 강화학습 기반 탐색 전략을 사용해 각 서비스의 행동 공간을 단계적으로 학습한다. 초기 탐색 단계에서는 무작위 정책으로 다양한 파라미터 조합을 시도하고, 이후 수집된 보상(지연 감소, 처리량 증가, 에너지 효율 등)을 기반으로 정책을 업데이트한다. 이 과정에서 에이전트는 서비스 간 상호작용 효과를 내재화한 메타-정책을 형성하게 된다.

데모 구성은 두 부분으로 나뉜다. 첫 번째는 개발자용 UI/CLI를 제공해 서비스 파라미터와 자원 사용 현황을 시각화하고, 수동 조정을 가능하게 한다. 두 번째는 자동 스케일링 에이전트를 연결해, 실시간으로 정책을 학습·적용하는 과정을 보여준다. 참가자는 제공된 비디오 요약과 포스터를 통해 전체 흐름을 파악하고, 아티팩트 레포지토리에서 소스 코드를 내려받아 자신만의 탐색/학습 알고리즘을 구현할 수 있다.

이 논문의 주요 기여는 (1) 에지 환경에 특화된 다중 서비스 자동 스케일링 프레임워크, (2) 서비스별 파라미터 인터페이스 표준화, (3) 강화학습 기반 에이전트가 서비스 행동 공간을 탐색·최적화하는 메커니즘, (4) 실증 데모와 오픈 레포지토리를 통한 재현 가능성 제공이다. 특히, 에이전트가 서비스 간 자원 경쟁을 고려한 전역 최적화를 수행한다는 점은 기존 연구와 차별화되는 핵심 혁신이다.