오류 허용 Reduce와 Allreduce를 위한 사전 보정 기반 알고리즘

초록

본 논문은 프로세스 장애를 견디는 Reduce와 Allreduce 연산을 위해, 트리 기반 Reduce 앞에 “업‑보정(up‑correction)” 단계를 삽입하는 새로운 설계를 제안한다. f개의 프로세스가 사전 혹은 실행 중에 실패하더라도, 비정상적인 프로세스를 제외한 나머지 프로세스들의 입력값을 정확히 결합한다. 보정 단계에서는 f+1개의 프로세스로 구성된 그룹이 서로 데이터를 교환·축소하여, 트리 단계에서 전파가 차단되는 서브트리를 복구한다. 이를 기반으로 Broadcast와 결합해 Allreduce를 구현한다.

상세 분석

이 논문은 고성능 컴퓨팅(HPC) 환경에서 흔히 사용되는 집합 통신 연산인 Reduce와 Allreduce에 대한 오류 허용 메커니즘을 체계적으로 설계하고 검증한다. 기존의 트리 기반 Reduce는 하나의 프로세스가 실패하면 해당 프로세스의 자식 서브트리 전체가 데이터 전파를 상실한다는 치명적인 단점을 가지고 있다. 이를 극복하기 위해 저자들은 “업‑보정(up‑correction)”이라는 사전 단계—즉, 실제 트리 연산이 시작되기 전에 각 프로세스가 자신과 동일한 레벨에 있는 f+1개의 프로세스와 데이터를 교환하고 로컬 축소를 수행하도록 설계하였다.

업‑보정 그룹은 프로세스 번호를 기준으로 (p‑1) mod (f+1) + 1 형태로 정의되며, 마지막 그룹에 멤버가 부족할 경우 루트 프로세스가 포함된다. 각 그룹 내에서는 모든 프로세스가 서로에게 자신의 현재 값을 전송하고, 수신된 값들을 결합함으로써 그룹 전체의 축소값을 계산한다. 이 과정에서 실패한 프로세스는 메시지를 전송하지 않으며, 살아있는 프로세스는 타임아웃을 통해 해당 프로세스의 실패를 감지한다. 타임아웃에 의한 지연은 불가피하지만, 이는 트리 단계에서 전체 연산이 중단되는 상황보다 훨씬 작은 비용으로 허용된다.

그 후 진행되는 트리 단계는 기존의 Reduce와 동일하게 동작한다. 각 비루트 프로세스는 자식으로부터 받은 축소값을 자신의 업‑보정 결과와 결합하고, 그 결과를 부모에게 전송한다. 루트는 모든 자식으로부터 받은 값 중 하나를 선택하거나, 필요에 따라 마지막 그룹의 값을 포함·제외하는 로직을 통해 최종 결과를 도출한다. 논문은 이때 루트가 실패하지 않는다는 가정 하에, 루트가 속한 그룹 여부에 따라 결과값이 약간 달라질 수 있음을 명시하고, 그 선택 기준을 상세히 제시한다.

알고리즘의 정당성은 다섯 가지 세미틱 규칙을 통해 증명된다. 특히 “모든 비실패 프로세스는 init_reduce를 호출하고, 결국 deliver_reduce를 호출한다”는 전제 하에, 실패한 프로세스의 입력값은 포함되거나 무시될 수 있으며, 이는 Reduce 연산의 결합법칙(결합성·교환성)과 일치한다. 또한, f개의 프로세스까지의 장애를 허용하도록 설계된 그룹 크기(f+1)는 최소한의 통신 오버헤드와 최대한의 장애 허용성을 동시에 만족한다는 점에서 설계 최적성을 갖는다.

Allreduce 구현은 Broadcast와 위에서 설계한 Fault‑tolerant Reduce를 순차적으로 결합함으로써 이루어진다. Broadcast는 기존의 “gossip + correction” 방식과 유사하게 사전 보정 단계가 포함되며, Reduce 단계에서 동일한 그룹 기반 보정이 적용된다. 결과적으로, 모든 프로세스가 최종 축소값을 수신하게 되며, 이는 장애가 발생한 경우에도 일관된 결과를 제공한다.

성능 측면에서 논문은 작은 메시지 크기(레이터시‑중심)에서의 효율성을 강조한다. 대용량 데이터 전송에서는 전통적인 파이프라인 트리나 분산 합산 방식이 더 효율적일 수 있지만, 레이턴시가 중요한 상황에서는 업‑보정 단계가 추가되는 통신 횟수(각 그룹당 O(f+1) 메시지)와 타임아웃 비용이 전체 지연에 미치는 영향이 제한적이다.

전체적으로 이 연구는 장애 허용 집합 연산에 대한 새로운 패러다임을 제시한다. 기존의 “사후 보정” 방식이 아니라 “사전 보정”을 통해 트리 구조의 취약점을 사전에 보완함으로써, 프로세스 실패가 발생해도 연산이 정상적으로 진행될 수 있음을 증명한다. 또한, 그룹 기반 설계와 명확한 세미틱 정의를 통해 알고리즘의 정확성을 수학적으로 보장한다는 점에서 이론적·실용적 가치가 높다.