하이브리드 업데이트와 무효화 혼합 캐시 일관성 프로토콜

초록

본 논문은 멀티코어 시스템에서 캐시 일관성을 유지하기 위한 기존의 무효화 기반(write‑back) 방식과 업데이트 기반 방식을 동적으로 전환하는 하이브리드 스킴을 제안한다. 저자들은 5가지 스킴(무효화‑전용, 업데이트‑전용, 임계값 기반, 수정된 MOESI, 공유자 수 기반)을 구현한 자체 시뮬레이터를 이용해 상용 벤치마크와 인공 워크로드를 실험하고, 각 스킴의 버스 트래픽(읽기·무효화·업데이트 요청) 차이를 분석한다. 실험 결과는 대부분의 워크로드에서 무효화‑전용이 가장 효율적이지만, 데이터 공유가 빈번한 경우(예: Bodytrack) 하이브리드 스킴이 성능을 향상시킬 수 있음을 보여준다.

상세 분석

본 연구는 캐시 일관성 관리에서 가장 널리 쓰이는 MOESI 기반 프로토콜을 출발점으로 삼는다. 전통적인 write‑back 시스템은 쓰기 시 다른 코어의 동일 주소 블록을 무효화(invalidate)함으로써 일관성을 보장한다. 이는 불필요한 업데이트 트래픽을 억제하지만, 이후 해당 블록을 다시 읽어야 할 경우 추가적인 메모리 접근이 발생한다는 단점이 있다. 반대로 업데이트(update) 방식은 쓰기와 동시에 모든 복제본에 새로운 데이터를 전파해, 이후 읽기 시 버스 트래픽을 절감한다. 그러나 공유되지 않은 데이터까지 무차별적으로 전파하면 버스 혼잡이 급증한다.

이러한 상충 관계를 해소하고자 저자들은 ‘하이브리드’ 접근법을 설계하였다. 첫 번째는 Threshold Scheme이다. 각 캐시 라인에 카운터를 두고, 읽기 발생 시 +1, 쓰기 발생 시 –1을 수행한다. 카운터 값이 사전에 정의된 임계값(threshold) 이상이면 업데이트를, 이하이면 무효화를 수행한다. 이 방식은 읽기‑쓰기 비율이 높은 라인에 대해 자동으로 업데이트를 선택하도록 유도한다. 두 번째는 Adapted‑MOESI로, 기존 무효화‑전용 스킴에 ‘Owned(O) 상태에서만 업데이트’를 추가한다. 즉, 블록이 O 상태이면 업데이트를, S 혹은 I 상태이면 무효화를 수행한다. 세 번째는 Number‑of‑Sharers Scheme으로, 라인의 현재 공유자 수가 미리 정한 기준 이상이면 업데이트, 이하이면 무효화를 선택한다. 이는 디렉터리 기반 시스템에서 공유자 정보를 이미 유지하고 있기 때문에 구현 비용이 낮다.

시뮬레이터는 C++로 구현했으며, 2~16개의 코어, 64셋·4웨이 정방향 캐시 구조를 가정한다. 입력 트레이스는 “로드/스토어, 코어 번호, 주소” 형식의 문자열 리스트이며, 각 스킴별로 읽기 요청, 무효화 요청, 업데이트 요청을 카운트한다. 성능 평가는 총 버스 트랜잭션 수(읽기+무효화+업데이트)로 정의했으며, 이는 실제 네트워크 부하와 비례한다고 가정한다.

실험 워크로드는 상용 벤치마크(Bodytrack, Dedup, Streamcluster, Swaptions)와 인공 워크로드(Locks, Arrays, Pseudo‑Server)로 구성했다. 상용 벤치마크는 multi2sim 타이밍 시뮬레이터를 이용해 5백만 명령의 트레이스를 추출했으며, 인공 워크로드는 C++ 프로그램으로 직접 생성했다.

결과 분석에서 대부분의 워크로드는 Invalidate‑Only가 최소 트랜잭션을 기록했다. 특히 데이터 공유가 드문 경우(예: Dedup, Streamcluster)에서는 업데이트‑Only가 과도한 버스 트래픽을 초래했다. 반면, Bodytrack처럼 데이터가 고도로 공유되는 경우에는 하이브리드 스킴(Threshold = 1, Adapted‑MOESI)이 무효화‑전용보다 10~15% 정도 트래픽을 절감했다. Threshold = 1이 가장 효과적이었으며, 값이 3 이상이면 무효화‑전용과 거의 동일한 결과를 보였다. 이는 카운터가 1에 도달할 때 대부분 블록이 O 상태에 있음을 의미한다. 그러나 모든 O 상태 블록이 카운터 = 1을 만족하는 것은 아니므로, 단순히 상태만으로 업데이트를 결정하는 것이 최적은 아니다.

Number‑of‑Sharers 스킴은 공유자 수가 많을 때 업데이트를 선택하도록 설계됐지만, 실험에서는 임계 공유자 수를 2~3으로 설정했을 때도 큰 차이를 보이지 않았다. 이는 시뮬레이션 환경에서 공유자 수가 급격히 변동하지 않았기 때문으로 해석된다.

전체적으로 하이브리드 스킴은 “무효화‑전용이 최적인 경우가 대부분”이라는 결론을 확인하면서도, 특정 공유 패턴에서는 확연히 이점을 제공한다는 점을 강조한다. 또한 구현 복잡도와 하드웨어 비용을 고려했을 때, Adapted‑MOESI와 같이 기존 프로토콜에 작은 변형만을 가하는 것이 실용적일 수 있다. 향후 연구에서는 동적 임계값 조정, 머신러닝 기반 예측, 그리고 타이밍을 포함한 전체 시스템 시뮬레이션을 통해 보다 정교한 하이브리드 정책을 탐색할 필요가 있다.