다중서버 작업 응답시간의 다단계 스케일링 분석

초록

본 논문은 “1과 n” 시스템을 대상으로, 부하가 서버 수 n에 비해 빠르게 포화에 접근하는 로드‑포커스 다단계 스케일링(LFMS) 한계에서 평균 대기열 길이와 안정성 경계의 비대칭적 성장률을 규명한다. 1‑서버 작업, n‑서버 작업, 그리고 두 작업이 균형을 이루는 세 가지 부하 구간을 구분하고, 각 구간에서 ρ→1(부하 포화) 후 n→∞ 스케일링을 적용한 asymptotic 결과를 제시한다. 이론적 증명, 수치 검증, 시뮬레이션을 통해 균형 부하에서 평균 대기열 길이가 최고점에 도달한다는 핵심 현상을 확인한다.

상세 분석

논문은 먼저 기존의 다중서버‑작업(MSJ) 모델에서 가장 단순하면서도 실용적인 “1과 n” 시스템을 정의한다. 여기서 작업은 두 종류로 나뉘며, 각각 1대의 서버와 전체 n대의 서버를 동시에 점유한다. 서비스 시간은 각각 지수분포(μ₁, μₙ)를 따르고, 도착은 포아송(λ)이다. FCFS와 헤드‑오브‑라인 차단(head‑of‑line blocking) 정책을 적용해, 작업이 서비스 가능할 때만 시스템에 진입한다는 점이 핵심 제약으로 작용한다.

저자는 “로드‑포커스 다단계 스케일링(LFMS)”이라는 새로운 한계를 도입한다. 이는 전통적인 Heavy‑Traffic(λ→μ) 혹은 서버‑포커스 스케일링(서버 수가 부하보다 빠르게 증가)과는 달리, 부하 ρ가 1에 매우 가깝게 상승한 뒤에 서버 수 n을 무한대로 확장한다. 이 과정에서 두 확률 파라미터 p₁(1‑서버 작업 비율)와 pₙ(전체 서버 작업 비율)도 n에 따라 스케일링한다. 구체적으로 pₙ→0, n→∞ 조건 하에 세 가지 부하 구간을 정의한다.

1. n‑서버 지배(regime): pₙ·n = ω(1) 즉, 전체 부하 중 n‑서버 작업 비중이 0에 수렴한다. 이 경우 시스템의 안정성 임계값 μ는 n‑서버 작업이 거의 없으므로 1‑서버 작업만으로 결정된다. 평균 대기열 길이 스케일링 E