OpenDPDv2: 효율적인 뉴럴 네트워크 디지털 프리디스토션 통합 프레임워크

초록

OpenDPDv2는 PA 모델링, NN‑DPD 학습, 그리고 배포용 최적화를 하나의 파이프라인으로 결합한 오픈소스 툴킷이다. 핵심은 Temporal Residual‑DeltaGRU(TRes‑DeltaGRU) 구조로, 경량화된 잔차 경로와 동적 시간 sparsity, 그리고 양자화 인식 학습을 동시에 적용해 추론 에너지를 4.5배 절감하면서도 256‑QAM OFDM 신호에 대해 -51.8 dBc ACPR와 -35.2 dB EVM을 유지한다.

상세 분석

본 논문은 넓은 대역폭과 고차 변조를 사용하는 RF 파워앰프(PA)의 비선형성을 보정하기 위해 뉴럴 네트워크 기반 디지털 프리디스토션(DPD)의 에너지 효율성을 크게 향상시키는 방법론을 제시한다. 기존 DeltaGRU 기반 DPD는 입력 및 은닉 상태의 delta값을 threshold로 억제해 연산량을 줄였지만, 출력 sparsity가 은닉 상태 sparsity에 직접 결합돼 높은 sparsity를 적용하면 선형화 성능이 급격히 저하되는 한계가 있었다. 이를 극복하기 위해 저자는 Temporal Convolutional Network(TCN) 기반의 경량 잔차 경로를 도입한 TRes‑DeltaGRU를 설계하였다. TCN은 dilated convolution을 활용해 넓은 시간 수용 영역을 확보하면서도 파라미터 수는 증가시키지 않는다. 결과적으로 delta threshold가 높아져도 출력 변화가 충분히 보존되어, 56 % temporal sparsity에서도 ACPR‑59.9 dBc, EVM‑42.1 dB 수준의 FP32 기준 성능을 크게 손상시키지 않는다.

또한, 양자화 인식 학습(Quantization‑Aware Training, QAT)을 통합해 8‑bit 정수 연산으로 전환하였다. 학습 과정에서 각 레이어별 스케일을 파워‑오브‑투 형태로 제한함으로써 하드웨어 구현 시 shift 연산만으로 스케일링이 가능하도록 설계했다. 이와 함께 동적 temporal sparsity와 양자화를 공동 최적화하는 손실 함수(선형화 손실 + sparsity 정규화 + 양자화 손실)를 사용해, 두 기법이 상호 보완적으로 작용하도록 유도하였다.

에너지 평가에서는 Gem5 기반 ARM Cortex‑A53 시뮬레이터를 활용해 실제 메모리 접근 비용과 연산 비용을 측정하였다. 결과는 mixed‑precision 연산이 MAC 비용을 20배 절감하고, temporal sparsity가 메모리 접근을 크게 감소시켜 전체 추론 에너지를 4.5배 낮출 수 있음을 보여준다. 특히 메모리 접근이 전체 에너지 소비의 주요 요인임을 확인하고, 이를 최소화하기 위한 스케줄링 및 캐시 친화적 구현 방안을 제시한다.

OpenDPDv2는 전체 파이프라인을 PyTorch 기반으로 구현했으며, PA 서리게이트 모델, DPD 학습, sparsity/양자화 공동 최적화, 그리고 Gem5 에너지 시뮬레이션까지 일관된 인터페이스를 제공한다. 코드와 데이터셋이 공개돼 재현성과 확장성이 뛰어나며, 향후 다른 주파수 대역·PA 구조·변조 방식에도 손쉽게 적용 가능하도록 설계되었다.