불투명 전처리기에서 무음 데이터 손상을 견디는 방법

초록

본 논문은 선행연산(전처리기)을 블랙박스로 취급하면서도, 무음 데이터 손상(SDC)을 알고리즘 수준에서 견디는 선택적 신뢰성(Selective Reliability) 기법을 제안한다. additive Schwarz + ILU(k)와 Algebraic Multigrid(AMG) 두 전처리기를 대상으로, GMRES와 CG 솔버에 적용해 오류 주입 실험을 수행하고, 스케일링 시 오버헤드와 복구 전략을 정량적으로 분석한다. 최악 상황에서도 22 % 이하의 성능 손실을 보이며, 오류 탐지와 롤백을 결합하면 1.8 % 수준으로 낮출 수 있음을 보여준다.

상세 분석

이 연구는 전처리기를 “불투명(opaque)”하게 취급함으로써 기존 알고리즘 기반 오류 검출·수정 기법이 요구하는 코드 침투를 회피한다는 점에서 혁신적이다. 전처리기는 일반적으로 복잡한 데이터 구조와 다중 레벨 통신을 포함하고 있어, 체크섬이나 재코딩을 적용하면 코드베이스가 급격히 팽창하고 유지보수가 어려워진다. 저자들은 이러한 문제를 피하기 위해 선택적 신뢰성 모델을 채택한다. 즉, 전처리기 호출을 ‘불안정(unreliable)’ 영역으로 격리하고, 외부(outer) 솔버만을 신뢰할 수 있는 영역에 두어 전처리기에서 발생한 오류를 외부 솔버가 자연스럽게 보정하도록 설계한다. 이는 FT‑GMRES에서 제안된 “outer‑inner” 구조와 동일한 원리이며, 여기서는 GMRES와 CG 두 솔버에 모두 적용해 그 일반성을 검증한다.

전처리기 종류로는 (1) additive Schwarz + ILU(k)와 (2) AMG(MueLu)를 선택했는데, 두 전처리기는 오류 전파 양상이 크게 다르다. Schwarz는 서브도메인 간 겹침이 없으므로 한 프로세스에서 발생한 오류가 다른 프로세스로 전파되지 않는다. 반면 AMG는 다중 레벨 계층 구조를 갖고 있어, 가장 거친(coarse) 레벨에서 발생한 오류가 전체 시스템에 퍼질 위험이 있다. 이러한 차이를 바탕으로 저자들은 오류 모델을 두 가지로 구분한다. 첫 번째는 L2 노름을 보존하는 순열 오류이며, 두 번째는 일부 서브도메인의 스케일링을 포함해 L2 노름 자체를 변형시키는 오류이다. 두 경우 모두 전처리기 출력 벡터 ẑ = M⁻¹w 로 표현되며, 이때 w는 손상된 데이터이다.

실험에서는 MPI 프로세스당 하나의 서브도메인을 할당하고, 다양한 비율(단일 프로세스, 다중 프로세스)로 오류를 주입한다. 주요 측정 지표는 “추가 전처리기 호출 횟수”이며, 이는 오류가 발생했을 때 외부 솔버가 수렴을 회복하기 위해 몇 번 더 전처리기를 호출했는지를 나타낸다. 결과는 다음과 같다. (1) GMRES‑ILU 조합에서는 최악 상황에서도 평균 1.22배(22 % 오버헤드)의 전처리기 호출 증가가 관측되었다. (2) CG‑Schwarz 조합은 오류 전파가 제한적이어서 거의 추가 호출이 없었다. (3) AMG‑GMRES 조합은 오류 전파가 심해 추가 호출이 1.5배까지 늘었지만, 오류 탐지와 롤백을 적용하면 오버헤드가 1.8 % 수준으로 크게 감소한다.

오류 탐지 메커니즘은 전처리기 출력의 L2 노름 변화를 모니터링하거나, residual norm이 비정상적으로 급증하는 경우를 포착한다. 탐지 후에는 “롤백” 전략을 사용해 최근 정상 상태(예: 이전 iteration)의 전처리기 결과를 복원한다. 이 과정은 추가적인 통신 비용이 거의 없으며, 전체 솔버의 안정성을 크게 향상시킨다.

스케일링 측면에서, 저자들은 문제 크기와 프로세스 수를 증가시켜도 선택적 신뢰성 모델의 오버헤드가 선형적으로 증가하지 않음을 확인했다. 특히 대규모 클러스터(수천 코어)에서 실험한 결과, 전처리기 오류가 국소적으로 제한되는 Schwarz 경우는 거의 비용이 들지 않았으며, AMG의 경우에도 오류가 발생한 레벨에 따라 전파 범위가 제한돼 전체 시스템에 미치는 영향이 억제되었다. 이는 선택적 신뢰성 모델이 “오류를 격리하고, 외부 솔버가 자연스럽게 복구하도록 설계”된 구조적 장점과 일치한다.

결론적으로, 이 논문은 전처리기와 같은 복잡하고 대규모 코드베이스를 그대로 두면서도, 소프트 오류에 대한 견고성을 확보할 수 있는 실용적인 방법을 제시한다. 전처리기 자체를 수정하지 않아도 되므로, 기존 HPC 코드에 최소한의 변경만으로도 적용 가능하다는 점이 큰 강점이다. 또한, 오류 탐지·롤백 메커니즘을 결합하면 실질적인 성능 손실을 2 % 이하로 낮출 수 있어, 차세대 에너지 효율형 슈퍼컴퓨터 환경에서도 신뢰성 있는 수치 시뮬레이션을 기대할 수 있다.