스위치오버 지연을 고려한 병렬 큐 스케줄링 최적화

초록

본 논문은 두 개의 병렬 큐에 대해 무작위로 변하는 연결 상태와 서버의 전환 지연(스위치오버)을 동시에 고려한 동적 서버 제어 문제를 다룬다. 마코프 결정 과정(MDP) 기반의 상태‑액션 빈도 분석을 통해 시스템의 안정 영역을 명시적으로 도출하고, 이를 이용한 프레임 기반 동적 제어(FBDC) 정책이 최대 처리량을 보장함을 증명한다. 또한, 구현이 간단한 Myopic 정책이 96 % 이상의 안정 영역을 차지하며, 실험에서는 전체 안정 영역을 달성하고 지연 면에서도 FBDC보다 우수한 성능을 보인다.

상세 요약

이 연구는 기존의 병렬 큐 모델에 서버 전환 시 발생하는 스위치오버 지연이라는 현실적인 제약을 새롭게 도입함으로써, 기존 문헌에서 다루지 못했던 복합적인 동적 제어 문제를 제시한다. 스위치오버가 존재하면 서버가 현재 큐에서 다른 큐로 이동하는 동안 서비스가 중단되므로, 단순히 현재 연결 상태만을 기반으로 하는 정책은 안정성을 보장하지 못한다. 저자들은 이를 해결하기 위해 ‘포화 시스템(saturated system)’을 가정하고, 해당 시스템을 MDP로 모델링한다. 여기서 핵심은 상태‑액션 빈도(state‑action frequency)라는 개념이다. 이는 장기 평균적으로 각 상태‑액션 쌍이 얼마나 자주 발생하는지를 나타내는 확률 분포이며, MDP의 정상 상태 해법을 구하는 대신 선형 제약식으로 표현할 수 있다. 이러한 접근법을 통해 복잡한 동적 최적화 문제를 선형 프로그램 형태로 변환하고, 연결 확률(p₁, p₂)과 스위치오버 시간 τ에 대한 명시적인 안정 영역 경계를 도출한다.

도출된 안정 영역은 두 큐의 평균 도착률 λ₁, λ₂가 특정 선형 부등식 집합을 만족하는 경우에만 시스템이 안정화된다는 것을 의미한다. 특히, 스위치오버 시간이 0인 경우는 기존 연구와 일치하지만, τ>0일 때는 새로운 경계가 형성되어, 스위치오버가 길어질수록 허용 가능한 도착률이 감소함을 수학적으로 확인한다.

안정 영역을 활용한 정책 설계에서는 ‘프레임 기반 동적 제어(FBDC)’가 제안된다. FBDC는 일정 길이의 프레임을 정의하고, 각 프레임 시작 시 현재 큐 길이와 연결 상태를 관측하여, 선형 프로그램에서 얻은 최적 상태‑액션 빈도에 가장 근접하도록 행동을 선택한다. 이때 선택된 행동은 프레임 전체에 걸쳐 유지되며, 프레임 종료 후 다시 재계산한다. 이러한 구조는 정책이 실시간으로 복잡한 MDP를 풀 필요 없이, 사전에 계산된 빈도 벡터만 참조하면 되므로 구현이 용이하고, 이론적으로는 ‘throughput‑optimal’, 즉 안정 영역 전체를 커버한다는 것이 증명된다.

또한, 저자들은 실용성을 위해 ‘Myopic’ 정책 두 가지를 제시한다. Myopic 정책은 현재 슬롯의 연결 상태와 큐 길이만을 이용해 즉각적인 보상을 최대화하는 선택을 한다. 첫 번째는 ‘Stay‑or‑Switch’ 규칙으로, 현재 큐의 서비스 가능성이 높으면 머무르고, 그렇지 않으면 즉시 전환한다. 두 번째는 ‘Weighted‑Myopic’으로, 큐 길이에 가중치를 부여해 긴 큐를 우선적으로 서비스한다. 이들 정책은 복잡도가 O(1)이며, 시뮬레이션 결과 96 % 이상의 안정 영역을 달성한다. 특히, 특정 파라미터 설정에서는 FBDC와 동일한 안정 영역을 완전히 커버하고, 평균 지연 시간 측면에서도 FBDC보다 현저히 낮은 값을 보인다.

시뮬레이션에서는 다양한 연결 확률 조합(p₁, p₂)과 스위치오버 시간 τ에 대해 정책들의 성능을 비교한다. 결과는 Myopic 정책이 짧은 프레임 길이에서도 빠르게 수렴하고, FBDC는 프레임 길이가 충분히 클 때 최적에 근접하지만, 프레임 길이가 짧으면 오버헤드가 커져 지연이 증가한다는 점을 보여준다. 따라서 실시간 시스템에서는 Myopic 정책이 실용적인 선택이 될 수 있다.

이 논문의 주요 기여는 다음과 같다. 첫째, 스위치오버 지연을 포함한 병렬 큐 모델의 안정 영역을 상태‑액션 빈도 기반으로 정확히 규정하였다. 둘째, 이 빈도 정보를 활용한 프레임 기반 정책을 제시해, 이론적으로 최대 처리량을 달성함을 증명하였다. 셋째, 구현이 간단한 Myopic 정책이 거의 전체 안정 영역을 차지하면서도 지연 효율이 높다는 실증적 근거를 제공하였다. 이러한 결과는 무선 네트워크, 데이터 센터 스케줄링 등 서버 전환 비용이 존재하는 다양한 실시간 시스템에 적용 가능성을 시사한다.