RoboECC: VLA 모델을 위한 다중요인 인식 엣지‑클라우드 협업 배포 프레임워크

초록

**
RoboECC는 다양한 구조를 가진 Vision‑Language‑Action(VLA) 모델을 엣지와 클라우드 사이에 효율적으로 분할하고, 네트워크 대역폭 변동에 실시간으로 대응하도록 설계된 프레임워크이다. 모델‑하드웨어 공동 인식 분할 전략과 네트워크‑인식 조정 메커니즘을 결합해, 기존 ECC 방식 대비 3배 이상의 속도 향상을 달성하면서 오버헤드는 2.5 % 수준에 머문다.

**

상세 분석

**
본 논문은 VLA 모델이 갖는 두 가지 근본적인 난관—구조적 다양성에 따른 최적 분할점 탐색의 어려움과 네트워크 대역폭 변동에 따른 성능 드리프트—을 명확히 규정하고, 이를 해결하기 위한 두 단계 접근법을 제시한다. 첫 번째 단계인 모델‑하드웨어 공동 인식(Model‑Hardware Co‑aware) 분할 전략은 VLA 모델을 Encoder‑S_enc, Backbone‑S_bac, Decoder‑S_dec 세 구역으로 추상화하고, 각 레이어의 FLOPs와 데이터 이동량을 정량화한다. 하드웨어 측면에서는 GPU의 연산 파이프라인을 고려해 레이어별 연산·메모리 병목을 max 연산으로 모델링함으로써, 주어진 클라우드 오프로드 예산 내에서 전체 지연을 최소화하는 분할점을 깊이 우선 탐색(DFS) 알고리즘으로 빠르게 찾는다. 이 과정은 실제 측정이 아닌 사전 구축된 구조·하드웨어 매핑표를 활용하므로 탐색 비용이 거의 없으며, 다양한 VLA 아키텍처(예: ViT‑LLM‑Detokenizer, ViT‑LLM‑Diffusion 등)에 일반화 가능하다.

두 번째 단계는 네트워크‑인식(Network‑aware) 조정 메커니즘이다. 저자들은 장기간 수집된 엣지‑클라우드 간 대역폭 시계열을 기반으로 경량 LSTM 예측기를 양쪽에 배치하고, 초단위(입력 간격 < 최소 레이어 지연) 예측을 수행한다. 예측된 대역폭에 따라 전송량이 큰 블록을 재배치하거나, 파라미터‑공유 풀(Parameter‑Sharing Pool)을 활용해 클라우드와 엣지 양쪽에 동일 블록을 사전 저장한다. 이렇게 하면 네트워크 재전송 없이 파라미터를 동기화할 수 있어, 급격한 대역폭 감소 시에도 실시간으로 최적 분할점을 전환한다. 실험 결과, 네트워크 변동이 10 MB/s → 1 MB/s 로 급감해도 전송량을 75 % 이상 감소시켜 전체 지연을 2.5배 이하로 유지한다.

전체 시스템은 두 개의 핵심 모듈—구조·하드웨어 모델링 엔진과 네트워크 예측·조정 서브시스템—으로 구성되며, 각각이 독립적으로 업데이트 가능하도록 설계돼 향후 새로운 VLA 컴포넌트(예: Transformer‑based Action Model)나 최신 GPU 아키텍처가 등장해도 재학습 없이 적용할 수 있다. 논문은 Orin+A100, Thor+A100 등 실제 로봇 플랫폼에서 3.16‑3.28× 속도 향상을 입증하고, 오버헤드가 2.55 %~2.62 %에 불과함을 보여준다. 이는 기존 ECC가 제공하던 1.5‑2× 수준을 크게 초과하는 성과이며, 실시간(≥30 Hz) 로봇 제어에 필요한 지연 한계를 충분히 만족한다.

**