클라우드 기반 워크플로우 QoS 최적화 프레임워크

초록

본 논문은 클라우드 환경에서 웹 서비스로 구성된 워크플로우의 평균 응답시간을 SLA 기준 이하로 유지하면서, 필요한 서비스 인스턴스 수를 최소화하는 알고리즘 SAVER를 제안한다. 시스템은 수동 모니터링으로 실시간 부하를 파악하고, 다중 클래스 개방형 큐잉 네트워크 모델을 이용해 최적 인스턴스 배치를 계산한다. 실험 시뮬레이션을 통해 모델 기반 계획이 전통적인 반응형 확장보다 효율적임을 입증한다.

상세 분석

SAVER는 클라우드 기반 워크플로우 엔진을 SaaS 형태로 제공하며, 워크플로우는 여러 종류(C개의 클래스)로 구분되고 각 클래스마다 허용 평균 완료시간 R⁺ᶜ가 사전에 협상된다. 시스템은 IaaS 레이어에 다수의 웹 서비스(W₁…W_K)를 배치하고, 각 서비스는 필요에 따라 복제 인스턴스(Nₖ)를 동적으로 생성한다. 핵심 문제는 “총 인스턴스 수 Σₖ Nₖ를 최소화하면서 모든 클래스의 평균 응답시간 R_c(N) ≤ R⁺_c를 만족시키는 구성 N을 찾는 것”이다. 이를 위해 SAVER는 오픈 멀티클래스 큐잉 네트워크(QN) 모델을 채택한다. 각 서비스 인스턴스는 FIFO 서버로 모델링되며, 클래스 c 요청은 서비스 k에 대해 D_ck(N)이라는 서비스 요구량을 갖는다. 체류시간 R_ck(N)은 서비스 요구량과 대기시간의 합이며, 인스턴스 활용도 U_k(N)=λ·D/(N_k) 형태로 계산된다. 모델 파라미터는 실시간 모니터링으로 얻은 도착률 λ_c와 관측된 서비스 요구량 D_ck로 구성돼, 사전 지식 없이도 정확히 추정 가능하다.

SAVER의 제어 로직은 MAPE(Monitor‑Analyze‑Plan‑Execute) 루프에 기반한다. Monitor 단계에서 현재 응답시간과 활용도를 수집하고, Analyze 단계에서 SLA 위반 여부를 판단한다. 위반이 감지되면 Plan 단계에서 QN 모델을 이용해 후보 구성들을 평가한다. 여기서 사용되는 탐욕적 알고리즘은 가장 큰 병목 서비스를 식별하고, 해당 서비스의 인스턴스 수를 최소한으로 증가시켜 전체 응답시간을 감소시키는 방향으로 진행된다. 병목 현상이 다른 서비스로 전이되는 “bottleneck shift” 현상을 모델이 자동으로 포착함으로써, 단일 단계에서 최적에 가까운 재구성을 도출한다. 최종 Execute 단계에서는 클라우드 API를 호출해 인스턴스를 추가·제거한다.

모델 기반 계획은 전통적인 반응형 확장(각 단계마다 시스템을 관찰하고 순차적으로 인스턴스를 추가)보다 훨씬 빠른 적응을 가능하게 한다. 실험에서는 다양한 도착률 변동 시나리오를 시뮬레이션했으며, SAVER가 요구된 응답시간을 지속적으로 만족시키면서 평균 인스턴스 사용량을 20~30% 절감함을 보여준다. 또한, QN 모델의 계산 비용이 낮아 실시간 의사결정에 적합함을 입증한다. 한계점으로는 서비스 요구량이 지수분포를 가정한다는 점과, 인스턴스 간 부하 균등 분배가 완벽히 이루어진다고 가정한다는 점이 있다. 향후 연구에서는 비정규 도착 패턴, 서비스 간 의존성, 그리고 인스턴스 시작·종료 지연을 고려한 확장 모델을 탐색할 예정이다.