근사 곱셈기로 가속하는 CNN 훈련

초록

본 논문은 근사 곱셈기(Approximate Multiplier)의 연산 오류가 CNN 훈련에 미치는 영향을 시뮬레이션으로 평가하고, 초기 학습 단계에 근사 곱셈기를 사용하고 후반에는 정확한 곱셈기로 전환하는 하이브리드 학습 방식을 제안한다. 실험 결과, 근사 곱셈기를 활용하면 속도·전력·면적에서 큰 이득을 얻을 수 있지만 정확도는 약간 감소한다. 제안된 하이브리드 방법은 정확도 손실을 최소화하면서도 대부분의 학습 단계에서 근사 곱셈기의 효율성을 유지한다.

상세 분석

논문은 먼저 근사 곱셈기의 핵심 특성인 Mean Relative Error(MRE)를 정의하고, MRE가 증가할수록 연산 결과에 편향이 발생한다는 점을 강조한다. CNN 훈련 과정은 순전파와 역전파에서 수백만 번의 곱셈 연산을 필요로 하므로, 근사 곱셈기의 오류가 누적될 경우 가중치 업데이트에 왜곡이 생겨 최종 모델 정확도가 저하될 위험이 있다. 이를 정량적으로 파악하기 위해 저자들은 다양한 MRE 수준(예: 0.5 %, 1 %, 2 %)을 갖는 근사 곱셈기를 시뮬레이션 환경에 삽입하고, 대표적인 이미지 분류 벤치마크(CIFAR‑10, Fashion‑MNIST)와 표준 CNN 구조(LeNet‑5, ResNet‑18)를 대상으로 학습을 수행하였다. 실험 결과, MRE가 1 % 이하일 때는 최종 정확도 손실이 0.2 % 미만에 그쳐 실용적인 수준으로 판단되었으며, MRE가 2 %를 초과하면 정확도 저하가 1 % 이상으로 급격히 증가한다는 비선형적 경향을 보였다.

또한, 근사 곱셈기의 하드웨어 이점도 정량화하였다. 기존 정확한 곱셈기에 비해 근사 곱셈기는 평균 30 % 이상의 연산 지연 감소, 40 % 이상의 전력 절감, 그리고 25 % 이상의 면적 절감을 달성한다. 이러한 이득은 특히 대규모 데이터센터나 엣지 디바이스에서 훈련 비용을 크게 낮출 수 있다.

하지만 정확도 손실을 완전히 무시할 수는 없으므로, 저자들은 “Hybrid Training”이라는 두 단계 전략을 제안한다. 초기 N‑epoch(예: 전체 epoch의 80 %) 동안은 근사 곱셈기를 사용해 빠르게 가중치를 수렴시키고, 마지막 단계에서는 정확한 곱셈기로 전환해 미세 조정을 수행한다. 이 전환 시점은 검증 손실이 최소화되는 시점을 기준으로 자동 조정될 수 있다. 하이브리드 방식은 전체 학습 시간과 전력 소비를 약 25 % 정도 절감하면서도, 순수 근사 곱셈기 사용 시보다 0.5 %~0.8 % 높은 최종 정확도를 유지한다.

논문은 또한 근사 곱셈기의 오류가 역전파 과정에서 특히 민감하게 작용한다는 점을 지적한다. 역전파는 기울기 값이 작을 때 정밀도가 크게 요구되므로, 근사 곱셈기의 오차가 기울기 소실(vanishing gradient) 현상을 악화시킬 수 있다. 이를 완화하기 위해 저자들은 학습률 스케줄링과 배치 정규화(Batch Normalization)를 결합한 보완 기법을 적용했으며, 실험적으로 이 조합이 하이브리드 전략의 안정성을 크게 향상시켰다.

전반적으로 이 연구는 근사 연산 하드웨어가 딥러닝 훈련에 적용될 수 있는 실용적 경계를 제시하고, 정확도와 효율성 사이의 트레이드오프를 관리하기 위한 구체적인 알고리즘적 접근법을 제공한다는 점에서 의미가 크다. 향후 실제 ASIC 혹은 FPGA 구현을 통한 실험과, 더 복잡한 모델(예: Transformer) 및 대규모 데이터셋에 대한 확장 검증이 필요하겠지만, 현재 단계에서도 근사 곱셈기를 활용한 하이브리드 훈련이 에너지 효율적인 AI 학습에 유망한 방향임을 설득력 있게 입증한다.