하이브리드 NoC 기반 이기종 멀티코어 시스템으로 효율적인 CNN 학습 가속

초록

본 논문은 CPU‑GPU 이기종 멀티코어 플랫폼에서 딥 CNN 학습 시 발생하는 트래픽 특성을 분석하고, 유선·무선 링크를 결합한 하이브리드 NoC를 설계한다. 제안된 NoC는 기존 와이어라인 메쉬 대비 평균 지연을 1.8배 감소시키고, 처리량을 2.2배 향상시켜 전체 시스템 EDP를 25% 절감한다.

상세 분석

논문은 먼저 LeNet과 CDBNet 두 대표적인 이미지 분류 CNN 모델을 대상으로 학습 과정에서 발생하는 온칩 트래픽 패턴을 정량적으로 분석한다. CPU는 데이터 전처리와 파라미터 업데이트, GPU는 대규모 행렬 연산을 담당하며, 이들 사이의 메모리 복사와 파라미터 동기화가 빈번히 발생한다는 점을 확인하였다. 특히, 역전파 단계에서의 그래디언트 전송은 대용량의 연속적인 스트림을 요구하고, 이는 전통적인 2‑D 메쉬 NoC에서 병목 현상을 초래한다.

이를 해결하기 위해 저자들은 유선 라인(전통적인 라우터 기반 메쉬)과 무선 링크(짧은 거리 고대역폭 무선 전송)를 결합한 하이브리드 구조를 제안한다. 무선 링크는 CPU와 GPU 사이의 고빈도, 대용량 데이터 교환 경로에 배치되어, 물리적 거리와 관계없이 일정한 전송 지연을 제공한다. 또한, 무선 채널은 다중 접속을 위해 TDMA 기반 스케줄링을 적용해 충돌을 방지하고, 전력 효율성을 높였다.

라우팅 알고리즘은 트래픽 유형에 따라 동적으로 경로를 선택한다. 대용량 연속 스트림은 무선 채널을 우선 사용하고, 소규모 제어 메시지는 기존 메쉬 라우터를 통해 전달한다. 이렇게 하면 네트워크 혼잡을 최소화하면서도 전력 소모를 제한할 수 있다. 실험 결과, 제안된 하이브리드 NoC는 평균 패킷 지연을 44% 감소시키고, 전체 처리량을 120% 이상 증가시켰다. 에너지 측면에서는 무선 전송이 고전압 라인보다 약 30% 적은 전력을 소모함에도 불구하고, 전체 시스템 EDP가 25% 절감되는 효과를 보였다.

이러한 설계는 기존 메쉬 기반 NoC가 가진 확장성 한계를 극복하고, CPU‑GPU 이기종 시스템에서 딥러닝 학습 워크로드에 최적화된 통신 인프라를 제공한다는 점에서 의미가 크다. 또한, 무선 링크를 활용한 하이브리드 구조는 향후 메모리·스마트 센서 등 다양한 이기종 코어 간 통신에도 적용 가능성을 시사한다.