컴퓨팅 연속체 서비스 오케스트레이션의 구조적 도전과 미래

초록

본 논문은 엣지부터 클라우드까지 이어지는 컴퓨팅 연속체(Computing Continuum)에서 서비스 오케스트레이션이 직면한 구조적 문제들을 정리하고, 자율적이고 지속 가능한 오케스트레이션을 위한 비전을 제시한다. 특히 신경과학의 활성 추론(Active Inference) 개념을 활용한 자기 조직화 메커니즘을 사례로 소개하며, 현재 솔루션들의 한계와 표준화된 시뮬레이션·평가 환경 구축의 필요성을 강조한다.

상세 분석

컴퓨팅 연속체는 엣지, 포그, 클라우드 등 이질적인 인프라가 계층적으로 결합된 환경으로, 지연 시간, 대역폭, 전력 제약 등 물리적 제약이 계층마다 다르게 나타난다. 이러한 이질성은 전통적인 중앙집중형 오케스트레이션 모델이 가정하는 균일한 자원 풀과 정적 워크로드와는 근본적으로 상충한다. 논문은 먼저 연속체의 구조적 특성을 ‘다중 스케일 동적성’, ‘이질적 자원 특성’, ‘분산된 정책 결정’이라는 세 축으로 구분한다. 다중 스케일 동적성은 서비스 요구가 실시간으로 변동하고, 엣지 노드의 가용성이 급격히 변할 수 있음을 의미한다. 이질적 자원 특성은 CPU, GPU, FPGA, 전용 AI 가속기 등 다양한 하드웨어가 혼재하고, 각 노드가 서로 다른 전력·열 관리 정책을 갖는다는 점을 강조한다. 분산된 정책 결정은 중앙 조정자가 존재하지 않거나, 존재하더라도 지연에 의해 실시간 의사결정이 불가능해지는 상황을 말한다.

이러한 구조적 문제를 해결하기 위해 논문은 ‘자율적 서비스 오케스트레이션’이라는 개념을 제시한다. 핵심 아이디어는 서비스 자체가 환경을 지속적으로 관찰하고, 내부 모델을 업데이트하며, 목표(예: 지연 최소화, 에너지 효율)와 일치하도록 행동을 선택하는 것이다. 이를 구현하기 위한 구체적 메커니즘으로 활성 추론(Active Inference)을 도입한다. 활성 추론은 베이즈적 예측 오류 최소화를 통해 행동을 선택하는 프레임워크로, 신경과학에서 뇌가 환경을 모델링하고 행동을 조정하는 방식을 모방한다. 서비스는 ‘예측 모델’과 ‘정책 모델’ 두 부분으로 구성되며, 관측된 메트릭(지연, 처리량, 전력 소비 등)과 목표 간의 차이를 최소화하도록 정책을 재학습한다. 이 과정에서 서비스는 로컬 자원 상태와 글로벌 목표를 동시에 고려하므로, 중앙 조정자 없이도 전역 최적화에 근접할 수 있다.

하지만 현재 연구 단계에서는 몇 가지 한계가 존재한다. 첫째, 활성 추론을 실제 분산 시스템에 적용하기 위한 계산량이 아직 과다하다. 베이즈 업데이트와 자유 에너지 최소화는 고성능 연산을 요구하므로, 저전력 엣지 디바이스에 직접 적용하기 어렵다. 둘째, 서비스 간 상호작용을 고려한 다중 에이전트 협업 메커니즘이 부재하다. 개별 서비스가 자체 목표에만 집중하면 전체 시스템의 자원 충돌이나 비효율이 발생할 수 있다. 셋째, 실험 및 검증을 위한 표준화된 시뮬레이션 플랫폼이 부족하다. 현재는 개별 연구팀이 자체 구축한 시뮬레이터를 사용하고 있어, 성능 비교가 불가능하고 재현성이 낮다. 논문은 이러한 한계를 극복하기 위해 ‘표준화된 연속체 시뮬레이터’, ‘공통 메트릭 스키마’, ‘오픈 베이스라인 오케스트레이션 프레임워크’의 개발을 로드맵에 포함시킨다.

결론적으로, 논문은 컴퓨팅 연속체에서 서비스 오케스트레이션이 구조적 복잡성 때문에 기존 방법론으로는 충분히 해결되지 않으며, 활성 추론과 같은 자기 조직화 접근법이 미래 방향임을 제시한다. 동시에 실험 인프라와 평가 기준의 표준화가 연구 진전을 가속화할 핵심 과제로 강조된다.