클라우드 엣지 엔드 디바이스 연계 DNN 오프로드 비용 최소화

초록

본 논문은 클라우드·엣지·엔드 디바이스가 혼합된 환경에서 딥러닝 모델을 층 단위로 분할하여 오프로드할 때, 데이터 전송 및 실행 비용을 최소화하고 마감 시간을 만족하도록 설계된 자기 적응형 이산 입자 군집 최적화(PSO) 알고리즘을 제안한다. GA의 변이·교차 연산자를 도입해 PSO의 조기 수렴을 방지하고, 실험을 통해 기존 벤치마크 대비 비용 절감 효과를 입증하였다.

상세 분석

이 논문은 DNN 기반 애플리케이션을 클라우드, 엣지, 엔드 디바이스 세 계층에 분산 배치함으로써 발생하는 전송 지연과 연산 비용을 동시에 고려한 최적화 문제를 정의한다. 핵심 아이디어는 “큰 규모의 층은 데이터 양이 많아 클라우드에, 작은 규모의 층은 전송 비용이 적어 엣지 혹은 디바이스에 배치한다”는 직관에 기반해, 각 층을 어느 위치에 배치할지 이산적인 결정 변수를 만든 뒤, 전체 시스템 비용(전송 비용 + 실행 비용)과 각 층별 마감 시간 제약을 목표 함수에 포함시킨다.

알고리즘 설계에서는 전통적인 입자 군집 최적화(PSO)의 탐색 능력은 유지하되, 입자 집단이 지역 최적에 머무르는 현상을 완화하기 위해 유전 알고리즘(GA)의 변이(mutation)와 교차(crossover) 연산을 삽입한다. 구체적으로, 매 세대마다 일정 확률로 입자들의 위치(이산값)를 변이시켜 새로운 후보 해를 생성하고, 두 입자를 교차시켜 혼합된 해를 만든다. 이를 통해 탐색 공간의 다양성을 확보하고, 전역 최적에 도달할 확률을 높인다.

실험에서는 MNIST, CIFAR‑10 등 대표적인 이미지 분류 모델을 사용해 다양한 네트워크 토폴로지와 네트워크 대역폭, 처리 능력 시나리오를 설정하였다. 제안 알고리즘은 기존의 단순 계층 할당 방식(예: 모든 층을 클라우드에 두거나, 고정 비율로 엣지에 할당)과 비교했을 때 평균 15%~30% 정도의 비용 절감을 달성했으며, 마감 시간 위반률도 현저히 낮았다. 특히, 변이·교차 연산을 적용한 PSO는 수렴 속도는 유지하면서도 최종 해의 품질이 크게 향상되는 것을 확인했다.

한계점으로는 이산형 결정 변수의 규모가 커질수록 탐색 공간이 급격히 확대돼 연산량이 증가한다는 점이며, 실시간 서비스에 적용하기 위해서는 더 가벼운 메타휴리스틱이나 하드웨어 가속이 필요할 것으로 보인다. 또한, 현재는 정적 네트워크 조건을 가정했지만, 이동성이나 네트워크 변동성을 고려한 동적 재배치 메커니즘이 추가된다면 실용성이 더욱 높아질 것이다.