마피스: 동적 호출 그래프 기반 마이크로서비스 SLO‑인식 자원 스케줄링

초록

마피스는 마이크로서비스 시스템에서 시간에 따라 변하는 호출 그래프를 분석해, 반복되는 실행 패턴을 추출하고 이를 기반으로 전역 최적화를 수행한다. 구조적 지문(Backbone + Deviation)으로 트레이스를 압축하고, 패턴 분포를 예측해 CPU 할당을 최소화하면서 엔드‑투‑엔드 지연 SLO를 만족한다. 실험 결과, 기존 방법 대비 35‑38% 적은 CPU 사용량과 98.8% SLO 준수율을 달성한다.

상세 분석

마피스 논문은 마이크로서비스 환경에서 “런타임 의존성 동적성”이라는 핵심 문제를 정량화하고, 이를 해결하기 위한 두 단계 프레임워크를 제시한다. 첫 번째 단계인 구조적 지문(Structural Fingerprinting)은 수백만 건의 트레이스를 백본(Backbone)과 편차 서브그래프(Deviation Subgraph)로 분해한다. 백본은 빈도와 레이턴시 중요도를 동시에 고려한 최적화 문제를 풀어 도출되며, 서비스 호출 흐름 중 핵심 비즈니스 로직을 포착한다. 편차 서브그래프는 재시도, 서킷 브레이커, 팬아웃 등 상황에 따라 발생하는 비정형 변형을 k‑gram 기반 빈도‑임계값(θ) 필터링 후, 임계점 이하의 변형을 군집화해 의미 있는 템플릿으로 압축한다. 이 과정에서 저자들은 (1) 안정성 – 사소한 변동에 대해 동일 지문을 유지, (2) 구별성 – 핵심 흐름이 달라지면 다른 지문을 생성, (3) 해석 가능성 – 각 서브그래프가 인간이 이해 가능한 서비스 호출 패턴을 나타내도록 설계했다는 점을 강조한다.

두 번째 단계는 예측‑최적화 파이프라인이다. 구조적 지문을 시계열 모델(Seasonal ARIMA 등)로 학습해 단기 패턴 분포를 예측하고, 이를 제약식으로 변환한다. 목표 함수는 전체 CPU 사용량 최소화이며, 제약식은 (i) 각 패턴별 엔드‑투‑엔드 레이턴시가 SLO(예: 99‑percentile ≤ 1 s)를 만족하도록, (ii) 서비스별 복제 수가 정수이며, (iii) 클러스터 전체 자원 한계 내에서 이루어져야 함을 명시한다. 최적화는 선형/정수 계획법을 활용해 전역적으로 해결되며, 결과는 쿠버네티스 컨트롤러를 통해 HPA/VPA와 연동돼 실시간으로 적용된다.

실험은 ByteDance 내부의 TrainTicket 벤치마크(수천 개 서비스, 수억 호출)와 다양한 워크로드(다이얼, 급증, 장애 시나리오)에서 수행되었다. 비교 대상은 (1) Dynamic‑Global(패턴 기반, 논문 제안과 동일하지만 최적화 없이 단순 예측), (2) Static‑Global(고정 호출 그래프 기반), (3) Independent(서비스별 독립 HPA). 결과는 Fig. 1과 Fig. 4에 요약돼 있다. 마피스는 평균 CPU 사용량을 35‑38% 절감하고, 99‑percentile 레이턴시를 5‑10% 낮추며, SLO 위반률을 1.2% 이하로 유지한다. 특히, 재시도 폭주나 팬아웃 급증 상황에서도 백본‑편차 모델이 변화를 빠르게 포착해 과잉 프로비저닝을 방지한다.

기술적 강점은 (a) 동적 호출 그래프를 고정‑그래프 모델에 얽매이지 않고, 실제 운영에서 관찰되는 “패턴 집합”이라는 잠재적 정규성을 활용한다는 점, (b) 백본‑편차 분해가 서비스 수준의 원인 분석과 연계될 수 있어 운영팀에 실용적 인사이트를 제공한다는 점, (c) 전역 최적화가 서비스 간 상호 의존성을 정량적으로 반영해 자원 효율성을 극대화한다는 점이다. 한계로는 (i) 구조적 지문 추출에 k‑gram 및 임계값 θ 선택이 도메인에 민감할 수 있어 파라미터 튜닝이 필요하고, (ii) 현재는 CPU만 최적화 대상으로 삼아 메모리·네트워크·스토리지 등 다중 자원 고려가 미흡하며, (iii) 최적화 문제 규모가 서비스 수와 패턴 수에 따라 급증할 수 있어 실시간 스케일링에 대한 계산 비용이 추가 연구가 필요하다.

전반적으로 마피스는 마이크로서비스의 동적 의존성을 “유한하고 재현 가능한 패턴”으로 정형화하고, 이를 기반으로 SLO‑인식 전역 스케줄링을 구현함으로써 기존 정적‑그래프 기반 혹은 서비스‑독립 자동 스케일러의 비효율성을 크게 개선한다는 점에서 학술·산업 모두에 의미 있는 기여를 한다.