RDMA 가속 시스템을 위한 원격 페칭 패러다임

초록

본 논문은 RDMA 기반 서버‑클라이언트 시스템에서 기존의 서버‑바이패스와 서버‑리플라이 방식이 갖는 한계를 지적하고, 인바운드 RDMA‑read가 아웃바운드 RDMA‑write보다 약 5배 빠른 사실을 활용한 새로운 설계 패러다임인 Remote Fetching Paradigm(RFP)을 제안한다. RFP를 적용한 인‑메모리 키‑밸류 스토어 Jakiro는 기존 시스템 대비 IOPS를 160 %~310 % 향상시키고, 지연시간도 50 % 이상 감소시킨다.

상세 분석

이 논문은 RDMA가 제공하는 일방향(one‑sided) 전송 메커니즘을 세밀히 분석하고, 특히 INIC(InfiniBand Network Interface Card) 내부에서 발생하는 아웃바운드와 인바운드 연산의 IOPS 차이를 실험적으로 규명한다. 실험 결과, 40 Gbps MT27500 모델 기준으로 32 바이트 크기의 작은 패킷에 대해 인바운드 RDMA‑read가 11.26 MOPS, 아웃바운드 RDMA‑write는 2.11 MOPS에 불과해 약 5배의 성능 격차가 존재한다. 이는 아웃바운드 연산이 요청 생성, 상태 관리, ACK/NAK 처리 등 추가적인 하드웨어 오버헤드를 필요로 하기 때문이다. 기존의 서버‑바이패스 모델은 클라이언트가 서버 메모리를 직접 조작해 CPU를 회피하지만, 메모리 노출, 일관성 보장, 복잡한 어플리케이션 로직 재설계 등 실용적인 제약이 많다. 반면 서버‑리플라이 모델은 서버가 결과를 아웃바운드 RDMA‑write로 푸시하지만, 앞서 언급한 아웃바운드 병목으로 IOPS가 제한된다.

RFP는 이러한 두 모델의 장점을 결합한다. 클라이언트는 기존과 동일하게 RDMA‑write를 이용해 요청을 서버에 전달하고, 서버는 CPU를 사용해 요청을 처리한 뒤 결과를 로컬 버퍼에 기록한다. 결과 전송 단계에서는 서버가 별도의 네트워크 작업을 수행하지 않고, 클라이언트가 인바운드 RDMA‑read를 통해 결과를 직접 가져온다. 이 설계는 서버의 네트워크 출력 부하를 완전히 제거하고, 인바운드 RDMA‑read의 높은 IOPS를 최대한 활용한다는 점에서 혁신적이다. 또한, 결과 상태와 데이터를 하나의 버퍼에 결합해 한 번의 RDMA‑read로 동시에 확인하고 수신하도록 하는 최적화 메커니즘을 제안한다. 이는 추가적인 라운드 트립을 없애고, 전체 IOPS를 더욱 끌어올린다.

구현된 시스템인 Jakiro는 키‑밸류 스토어라는 전형적인 워크로드에 RFP를 적용한 사례이다. 실험에서는 균일, 스큐, 동적 워크로드 모두에서 기존 서버‑바이패스(Pilaf, C‑Hint 등)와 서버‑리플라이(FaRM, RDMA‑Memcached 등) 대비 IOPS가 1.6배~3.1배 향상되고, 평균 레이턴시는 50 % 이상 감소한다. 특히 클라이언트 스레드 수가 증가해도 인바운드 RDMA‑read의 확장성이 유지되어, 대규모 데이터센터 환경에서도 높은 처리량을 보장한다. 논문은 또한 RFP가 메모리 노출 없이 안전하게 구현될 수 있음을 강조하며, 기존 RDMA 기반 시스템 설계에 새로운 패러다임을 제시한다. 다만, RFP는 결과를 클라이언트가 직접 가져와야 하므로, 결과 크기가 매우 큰 경우 추가적인 전송 비용이 발생할 수 있고, 클라이언트 측에 더 많은 메모리 버퍼 관리가 요구된다. 이러한 제한점은 향후 연구에서 하이브리드 전송 전략이나 멀티‑버퍼 스케줄링 기법으로 보완될 여지가 있다.