전력과 성능을 위한 동적 서버 할당 정책

초록

본 논문은 데이터센터에서 전력 소비를 최소화하면서 사용자 응답 시간 요구를 만족시키는 동적 서버 할당 정책을 제안한다. 서버 가동·중단을 트래픽 예측과 Erlang‑A 대기 모델에 기반해 결정하고, 적응형 정책과 QED 휴리스틱을 비교 실험한다. 위키피디아 트레이스를 이용한 평가 결과, 비정상적인 부하에서도 제안된 정책이 높은 수익과 낮은 전력 사용을 동시에 달성함을 보여준다.

상세 분석

논문은 전력 효율과 서비스 품질 사이의 트레이드오프를 수학적으로 모델링한다. 전력 소비는 서버 가동 여부와 이용률에 따라 선형적으로 증가한다고 가정하고, 각 서버는 m개의 병렬 작업을 동시에 처리할 수 있는 가상 서버로 추상화한다. 사용자는 제한된 대기 시간(시간 초과) 내에 응답을 받지 못하면 요청을 포기하며, 이러한 포기 현상은 지수 분포를 따르는 ‘포기율(θ)’로 모델링한다. 결과적으로 시스템은 M/M/n+M, 즉 Erlang‑A 큐로 표현되며, 이는 포기 현상 때문에 부하가 과도해도 안정성을 유지한다는 장점을 가진다.

동적 할당 정책은 두 단계로 구성된다. 첫 번째는 관측 창(observation window) 동안 λ(도착률)와 μ(서비스율)를 추정하는 과정이며, 여기서는 이중 지수 평활법(윈터스 방법)을 사용해 비정상적인 트래픽 변동을 보정한다. 두 번째는 추정된 부하 ρ=λ/μ에 기반해 실행 서버 수 n을 결정하는 알고리즘이다. ‘Adaptive’ 정책은 각 가능한 n에 대해 기대 수익 R=c·T−r·P를 계산하고, 서버 전환 비용 Q=|Δn|·t·(∑di+kremax)를 차감한 후 수익이 감소하기 시작할 때까지 이진 탐색을 수행한다. 이 과정은 수익 함수가 n에 대해 볼록(concave)함을 이용해 최적점을 효율적으로 찾는다.

‘QED’ 휴리스틱은 보다 단순히 n=ρ+α√ρ 형태의 식을 사용한다. 여기서 α는 서버가 모두 바쁠 확률을 반영하는 파라미터이며, 예측 오차를 보정하기 위해 기대 부하 E(ρ)와 분산 VAR(ρ)를 추가한다. 즉, n=E(ρ)+α·E(ρ)+VAR(ρ) 로 계산해 불확실성을 포함한다. 이 두 정책은 각각 최적화 정확도와 계산 복잡도 사이의 균형을 목표로 한다.

실험에서는 2009년 11월 위키피디아 요청 트레이스를 시간당 수백만 건 규모로 사용하였다. 트래픽은 일일·주간 주기를 보이며 급격한 피크와 저점이 존재한다. 결과는 ‘Adaptive’ 정책이 QED보다 약 23% 높은 평균 수익을 제공하지만, 계산 비용이 더 크다는 점을 보여준다. 또한, 전력 소비는 정적 과다 프로비저닝 대비 3045% 절감되었으며, 포기율은 5% 이하로 유지되었다. 이는 서버 가동·중단 전환 시간(k)와 전환 전력 소모(emax)를 고려한 비용 모델이 현실적인 운영 비용을 잘 반영함을 의미한다.

전체적으로 논문은 서버 가동 수를 동적으로 조절함으로써 전력 비용을 크게 절감하면서도 SLA 위반을 최소화하는 실용적인 프레임워크를 제시한다. 특히 Erlang‑A 모델을 기반으로 포기 현상을 명시적으로 포함시킨 점은 기존 Erlang‑C 기반 연구와 차별화되며, 비정상적인 부하에서도 안정적인 수익을 확보할 수 있음을 실험적으로 입증한다.