태그 오버헤드 없이 이상적인 캐시 압축 터치

본 논문은 최신 프로세서에서 LLC(Last‑Level Cache)의 용량 정체 현상을 완화하기 위한 데이터 압축 기법을 제시한다. 기존 연구들은 압축을 적용하면 각 압축 블록마다 별도의 태그가 필요해 태그 영역이 크게 증가하거나, 태그 오버헤드를 줄이기 위해 인접 주소에만 압축 블록을 배치하는 ‘슈퍼블록’ 방식을 채택했다. 후자는 배치 제약으로 인해 압축 효율이 크게 제한되는 단점이 있다. Touché는 이러한 두 가지 한계를 동시에 극복하는 프레임워크로, 세 가지 핵심 메커니즘으로 구성된다. 첫 번째는 SIGN 엔진으로, 48‑비트 물리 주소에서 9‑비트 서명을 생성한다. 서명은 기존 29‑비트 태그보다 훨씬 짧아 하나의 태그 엔트리 안에 최대 세 개까지 저장할 수 있다. 이는 동일 캐시라인에 최대 세 개의 임의 압축 블록을 겹쳐 저장하게 하여, 인접성 제한을 없앤다. 서명 충돌 가능성은 9‑비트 길이 때문에 0.19 % 수준이며, 8‑way 캐시에서는 최악의 경우 24개의 서명을 동시에 비교해도 전체 충돌률은 4.58 %에 머문다. 두 번째 메커니즘인 TADA는 압축된 데이터 영역에 전체 태그와 메타데이터를 삽입한다. 압축으로 확보된 여유 공간에 29‑비트 태그와 5‑비트 메타데이터(압축 가능성 3‑비트, 유효·더티 비트 2‑비트)를 저장함으로써, 서명 매칭이 발생했을 때 실제 태그를 재검증한다. 이 과정은 서명 충돌에 의한 오탐을 완전히 차단하고, 캐시 일관성을 보장한다. TADA가 추가하는 오버헤드는 평균 4.25 바이트(34 비트)로, 전체 캐시 용량에 미치는 영향은 미미하다. 세 번째 메커니즘인 SMARK는 16‑비트 고유 마커를 사용해 동일 캐시라인에 인접 주소에서 온 네 개의 압축 블록(슈퍼블록) 존재 여부를 표시한다. 마커 충돌 확률은 0.012 %에 불과하며, 충돌이 발생해도 TADA 단계에서 전체 태그를 검증하므로 정확도에 영향을 주지 않는다. SMARK는 기존 슈퍼블록이 제공하던 태그 오버헤드 감소 효과를 유지하면서, SIGN이 허용하는 임의 배치를 동시에 지원한다. 하드웨어 구현 측면에서 Touché는 기존 LLC 컨트롤러에 비교기와 작은 룩업 테이블을 추가하는 정도의 비용만 필요하다. 실험은 4 MB 8‑way LLC를 대상으로 SPEC 29 워크로드를 사용했으며, 평균 12 %의 실행 시간 단축을 달성했다. 이상적인 경우(태그 오버헤드 전혀 없는 경우) 13 %에 근접한다. 이는 동일 면적 내에서 압축 효과를 최대화하면서 태그 저장 비용을 사실상 0으로 만든 최초의 설계라 할 수 있다. 결론적으로 Touché는 서명 기반 태그 압축, 데이터 영역 태그 삽입, 마커 기반 슈퍼블록 인식이라는 세 축을 조화시켜, 기존 설계가 직면한 트레이드오프를 근본적으로 해소한다. 이는 차세대 대용량 LLC 설계에서 압축을 통한 용량 확대와 전력·면적 효율성을 동시에 달성하는 실용적인 로드맵을 제공한다.