플러그인형 딥러닝 기반 저복잡도 대규모 MIMO 프리코딩

초록

본 논문은 기존 WMMSE와 같은 고복잡도 프리코딩 알고리즘을 대체할 수 있는 저복잡도 딥러닝 프레임워크 PaPP를 제안한다. PaPP는 교사‑학생 구조와 메타‑러닝 기반 도메인 일반화를 결합해, 완전 디지털(FDP) 및 하이브리드(HBF) 양식 모두에 적용 가능하며, 새로운 기지국 현장, 전송 전력 및 채널 추정 오류에 대해 재학습 없이도 높은 합계율을 유지한다. 실험 결과는 파리싱 데이터셋을 이용한 세 개의 미보인 현장에서 기존 방법 대비 21배 이상의 에너지 절감과 경쟁력 있는 성능을 확인한다.

상세 분석

PaPP는 크게 세 가지 혁신적인 설계 요소를 갖는다. 첫째, 교사‑학생 네트워크를 도입해 고용량 교사 모델이 WMMSE와 동일한 수준의 정밀한 가중치를 학습하고, 경량 학생 모델이 행렬 역연산 없이 교사의 출력을 압축한다. 이를 위해 교사는 보조 변수 v, u, μ 의 분자·분모를 별도 출력하도록 설계해, 신호대잡음비(SNR) 변화에 강인하도록 한다. 둘째, 메타‑러닝 기반 도메인 일반화(MLDG)를 적용해 학습 단계에서 여러 “도메인”(다양한 현장·SNR·채널오차)으로부터 샘플을 무작위로 선택하고, 내부·외부 손실을 동시에 최소화한다. 이렇게 하면 모델이 새로운 환경에 노출되었을 때도 빠르게 적응한다. 셋째, 전송 전력 인식 정규화 기법을 도입해 입력 CSI를 전력 수준에 맞게 스케일링한다. 이는 전력 변화가 직접적인 입력 특징으로 반영되게 하여, 별도 전력 파라미터 없이도 전력 독립성을 확보한다.

아키텍처 측면에서 PaPP는 두 개의 병렬 특성 추출기를 사용한다. 하나는 3‑계층 CNN으로 안테나·공간 차원을 전역적으로 캡처하고, 다른 하나는 각 사용자에 대해 실·허수 부분을 연결한 뒤 5‑계층 MLP로 개별 사용자 특성을 추출한다. 사용자별 임베딩은 평균·세 개의 고정 분위수(quantile)와 결합돼 전역 컨텍스트 벡터를 형성하고, 학습 가능한 스칼라 게이트(α)로 가중합한다. 이렇게 만든 전역·사용자 특성은 공유 피처에 합쳐져 교사와 학생 모두에게 공급된다. 교사는 선형 헤드를 통해 WMMSE 보조 변수들을 예측하고, 학생은 동일 피처를 이용해 최종 프리코딩 행렬(디지털 전용) 혹은 아날로그·디지털 두 파트(하이브리드)로 직접 출력한다.

학습 손실은 두 부분으로 구성된다. (1) 교사 모방 손실은 학생 출력과 교사 출력 사이의 L2 거리이며, (2) 정규화된 합계율 손실은 실제 채널에 대한 학생의 합계율을 정규화된 목표값(예: 최대 합계율 대비 0.98)과 비교한다. 두 손실을 가중합해 최적화함으로써, 학생은 교사의 정확성을 유지하면서도 실제 시스템 성능을 직접적으로 향상시킨다.

실험에서는 몬트리올 3D 레이 트레이싱 데이터셋을 사용해 3개의 서로 다른 현장(산업, 도심, 교외)에서 모델을 평가하였다. 사전 학습된 백본을 현장별 소량(수백 개) 비라벨링 CSI에 대해 미세조정(fine‑tuning)했을 때, PaPP‑FDP와 PaPP‑HBF 모두 기존 WMMSE와 최신 딥러닝 기반 프리코더(예: DeepMIMO, MIMO‑Net)보다 높은 합계율을 달성했으며, 특히 채널 추정 오차가 10 dB 이하일 때 성능 저하가 거의 없었다. 계산 복잡도 측면에서는 학생 모델이 행렬 역연산을 회피함으로써 FLOPs가 WMMSE 대비 0.04배 수준이며, 전력 소모는 21배 이상 절감된 것으로 시뮬레이션하였다.

요약하면, PaPP는 교사‑학생 구조와 메타‑러닝을 결합해 전력·현장·채널 오차에 대한 일반화 능력을 크게 향상시키면서, 실제 배치 가능한 저전력 구현을 가능하게 하는 실용적인 대규모 MIMO 프리코딩 솔루션이다.