AI ASIC으로 동형암호 가속하기

초록

본 논문은 구글 TPU와 같은 AI 전용 ASIC을 활용해 동형암호(HE) 연산을 고효율로 수행하는 방법을 제시한다. 기존 GPU 기반 HE 라이브러리는 32비트 정수 연산과 미세한 데이터 재배열에 최적화돼 TPU의 8비트 매트릭스 엔진(MXU)와 대규모 메모리 구조를 활용하지 못한다. 저자들은 컴파일러 프레임워크 CROSS를 설계해 고정밀 모듈러 연산을 저정밀 INT8 매트릭스 곱으로 변환하는 Basis‑Aligned Transformation(BAT)과, 런타임 데이터 전환을 오프라인 파라미터 변환으로 대체하는 Memory‑Aligned Transformation(MAT)을 도입한다. 실험 결과, TPU v6e에서 NTT와 주요 HE 연산의 처리량·전력 효율이 기존 최첨단 GPU·FPGA 구현보다 크게 앞서며, ASIC 수준의 에너지 효율에 근접함을 보였다.

상세 분석

논문은 먼저 HE 연산이 요구하는 고정밀(32‑bit 이상) 정수 연산과 잦은 데이터 셔플·전치가 현재 AI ASIC, 특히 구글 TPU의 구조와 근본적으로 불일치한다는 점을 정량적으로 분석한다. TPU는 VPU라는 저속 벡터 연산 유닛과, 128×128 규모의 고속 MXU(8‑bit 행렬 연산 전용)를 갖추고 있다. 기존 GPU‑기반 HE 라이브러리는 VPU 수준의 32‑bit MAC에 의존해 MXU를 활용하지 못하고, 데이터는 4KB 단위의 VReg에 맞춰 전치·셔플이 반복돼 메모리 대역폭과 레이턴시가 급증한다. 이러한 구조적 병목을 해소하기 위해 저자들은 두 가지 핵심 변환을 제안한다. 첫 번째 BAT는 모듈러 연산을 RNS 기반의 “베이스 변환”으로 재구성해, 고정밀 모듈러 곱을 INT8 정밀도의 밀집 행렬‑벡터 곱으로 매핑한다. 이 과정에서 기존에 0으로 채워진 희소 행렬을 제거하고, 연산량을 절반 수준으로 축소해 MXU 활용률을 90% 이상으로 끌어올린다. 두 번째 MAT는 NTT와 같은 연산에서 필수적인 데이터 전치·셔플을 컴파일 타임에 파라미터 행렬에 미리 적용함으로써 런타임 메모리 재배열을 완전 제거한다. 즉, 전치 행렬을 미리 곱해 “레이아웃 불변” 커널을 생성해, 메모리 접근 패턴을 연속적인 스트림으로 바꾼다. 이러한 변환은 XLU와 같은 TPU 전용 데이터 관리 유닛을 우회하면서도, 메모리 대역폭 사용을 최소화한다. 실험에서는 단일 호스트 TPU v6e에서 NTT 처리량이 NVIDIA A100 기반 WarpDrive 대비 1.43배, 전력당 처리량이 OpenFHE·WarpDrive·FIDESlib·FAB·HEAP·Cheddar 대비 각각 451×, 7.81×, 1.83×, 1.31×, 1.86×, 1.15× 향상된 것을 보고한다. 또한, HE 연산 전체에 걸친 에너지 효율이 ASIC 수준에 근접했으며, 남은 격차는 전용 셔플 엔진 부재와 모듈러 선택 최적화 부족, 메모리·연산 규모 제한에서 비롯된다고 분석한다. 전체적으로 논문은 AI ASIC을 별도 하드웨어 수정 없이 HE 가속에 활용할 수 있는 새로운 패러다임을 제시하고, 컴파일러‑레벨 최적화가 하드웨어 구조적 한계를 어떻게 극복할 수 있는지를 설득력 있게 보여준다.