동적 캐시 플러시로 AES 타이밍 공격 방어

초록

본 논문은 AES 구현에서 발생하는 캐시 타이밍 공격을 완화하기 위해 동적 캐시 플러시(DCF) 알고리즘을 제안한다. DCF는 암호화 과정 중 주기적으로 캐시 라인을 무작위로 비우고, 키 스케줄링 연산을 일정 시간에 수행하도록 스케줄링한다. 시뮬레이션 결과, 키 복구 성공률이 현저히 낮아지며, 암호화 시간 변동이 최소화되는 것을 확인하였다.

상세 분석

본 논문은 캐시 타이밍 공격의 근본 원인을 “키 의존적인 메모리 접근 패턴”으로 규정하고, 이를 차단하기 위한 두 가지 핵심 메커니즘을 제시한다. 첫 번째는 암호화 라운드마다 무작위 시점에 캐시 라인을 강제로 플러시하는 동적 캐시 플러시(Dynamic Cache Flushing, DCF)이다. 이는 공격자가 특정 라운드에서 발생하는 캐시 히트/미스 차이를 관찰하기 어렵게 만든다. 두 번째는 키 스케줄링 단계와 실제 데이터 암호화 단계를 동일한 시간 복잡도로 맞추는 “시간 균일화 스케줄링”이다. 기존 AES 구현에서는 키 확장 단계가 상대적으로 짧아 공격자가 시간 차이를 이용해 키 바이트를 추정할 수 있었지만, 논문은 모든 라운드에 동일한 연산량을 삽입함으로써 이러한 정보를 은폐한다.

기술적인 구현 측면에서 저자는 x86 아키텍처의 CLFLUSH 명령을 활용해 캐시 라인을 비우고, 난수 생성기(RNG)를 통해 플러시 시점을 결정한다. 또한, 라운드당 수행되는 S-박스 조회 횟수를 고정하고, 필요 시 가짜 연산(dummy operation)을 삽입해 전체 실행 시간을 일정하게 유지한다. 이러한 설계는 하드웨어 수준에서 캐시 일관성을 보장하지 못하는 경우에도 소프트웨어 차원에서 공격 표면을 최소화한다는 점에서 의미가 크다.

하지만 몇 가지 한계점도 존재한다. 첫째, CLFLUSH 명령은 사용자 모드에서 제한적으로만 사용 가능하며, 일부 모바일 및 임베디드 환경에서는 지원되지 않는다. 둘째, 캐시 플러시와 가짜 연산 삽입은 전체 암호화 성능을 평균 30~40% 정도 저하시킨다. 이는 실시간 통신이나 고성능 서버 환경에서 적용 가능성을 저해한다. 셋째, 논문은 시뮬레이션 기반 평가에 머물러 실제 물리적 측정(예: 전력 분석, 전자기 방출)과의 복합 공격에 대한 내성을 검증하지 않았다. 마지막으로, 난수 생성기의 품질이 낮을 경우 플러시 시점이 예측 가능해져 공격자가 여전히 통계적 분석을 수행할 여지를 남긴다.

전반적으로 DCF는 기존 타이밍 방어 기법보다 구현이 간단하고, 소프트웨어 레이어에서 적용 가능하다는 장점이 있다. 그러나 성능 저하와 하드웨어 의존성을 고려할 때, 모든 환경에 보편적으로 적용하기보다는 보안 요구도가 높은 특수 시스템에 선택적으로 도입하는 것이 현실적이다.