SPPAM: 서명 패턴 예측과 접근 맵 기반 프리패처

초록

본 논문은 기존의 SPP와 AMPM 프리패처의 장점을 결합하고 단점을 보완한 새로운 2차 캐시 프리패처인 SPPAM을 제안한다. 온라인 학습으로 접근 맵 패턴을 구축하고, 이를 기반으로 자신감(confidence) 메트릭에 의해 조절되는 사전 탐색을 수행한다. 설계는 지역 테이블, 패턴 테이블, 전역 유용성 추적기 등 다중 계층의 메트릭을 활용하며, Berti와 Bingo와 협업하여 전체 시스템 성능을 31.4% 향상(무프리패치 대비)하고, 기존 최첨단 프리패처 대비 6.2% 개선한다.

상세 분석

SPPAM은 기존 SPP가 delta‑signature 기반 재귀적 예측을 수행하지만 순서 의존성으로 인해 OoO 코어와 상위 캐시의 재정렬에 취약한 점을 보완한다. 이를 위해 AMPM의 순서‑무관 접근 맵을 차용해 4 KiB 크기의 지역을 비트맵으로 관리하고, 각 지역에 대한 ‘전/후’ 패턴을 추출한다. 추출된 패턴은 양방향(positive/negative) 직접 매핑된 패턴 테이블에 저장되며, 동일 패턴에 대해 여러 후보 예측을 연관 집합 형태로 보관한다. 가장 빈번히 등장하는 후보가 선택돼 다음 블록을 프리패치하고, 선택된 예측을 다시 패턴 인덱스로 재사용함으로써 SPP와 유사한 깊은 look‑ahead를 제공한다.

신뢰도 조절 메커니즘은 세 단계로 구성된다. 첫째, 패턴 테이블 엔트리마다 유용/무용 카운터와 4‑bit confidence를 유지해 일정 수준 이상일 때만 예측을 허용한다. 둘째, 전역 유용성 트래커가 전체 프리패치의 유용/무용 비율을 샘플링해 4‑bit 전역 신뢰도를 업데이트한다. 셋째, DRAM 대역폭 피드백을 받아 프리패치 degree와 drop chance를 동적으로 감소시킨다. 이러한 다중 레벨 throttling은 과도한 프리패치로 인한 메모리 혼잡을 방지하면서도 유용한 프리패치를 지속적으로 발행한다.

구현 면에서는 지역 테이블(128 sets × 24‑way)과 LLC 전용 지역 테이블을 별도로 두어 L2C와 LLC 사이의 중복 프리패치를 차단한다. 또한 Berti와 Bingo와의 협업을 위해 Berti가 제공하는 가상 주소 기반 지역 연관 정보를 활용, 페이지 경계를 넘어선 패턴 학습을 가능하게 한다. 하드웨어 비용은 전체 109.16 KB(코어당)이며, 이는 기존 SPP나 AMPM 대비 크게 증가하지 않는다.

실험은 4 GHz, 8‑wide Issue, 8‑wide Retire, Perceptron Branch Predictor 등 현대적인 마이크로아키텍처 환경에서 수행되었으며, SPEC‑CPU2006 및 다양한 메모리‑바운드 워크로드에 대해 평균 31.4% 성능 향상을 기록한다. 특히 Berti와 Pythia를 결합한 베이스라인 대비 6.2% 개선을 보였는데, 이는 SPPAM이 지역‑기반 패턴 학습과 재귀적 look‑ahead를 효과적으로 조화시켰기 때문이다.

요약하면, SPPAM은 (1) 순서‑무관 접근 맵을 통한 안정적인 패턴 추출, (2) 다중 레벨 confidence 기반 사전 탐색, (3) DRAM 대역폭 및 전역 유용성에 기반한 동적 throttling, (4) 기존 프리패처와의 협업을 위한 인터페이스 제공이라는 네 가지 핵심 혁신을 통해 L2 캐시 프리패치 효율을 크게 끌어올렸다.