스케일러블 MIMO 수신기 EqDeepRx

초록

EqDeepRx는 전통적인 선형 수신 처리에 경량화된 신경망 블록을 결합한 MIMO OFDM 수신기이다. 공유 가중치 DetectorNN을 각 스트림에 독립 적용해 복수 스트림에서도 거의 선형 복잡도로 동작하고, DenoiseNN으로 채널 추정값을 주파수 영역에서 부드럽게 만든다. 두 개의 병렬 등화기(LMMSE‑INCM 및 RZF)를 통해 입력 차원을 축소한 뒤 DetectorNN과 DemapperNN이 차례로 LLR을 생성한다. 5G/6G 시뮬레이션에서 다양한 채널·파일럿·간섭 환경에 대해 기존 베이스라인보다 오류율과 스펙트럼 효율이 향상되었으며, MIMO 레이어 수에 따라 재학습 없이 적용 가능하고 FLOPS 기준 낮은 연산량을 유지한다.

상세 분석

EqDeepRx는 “전문가 지식 + 딥러닝” 패러다임을 구체화한 설계로, 기존 MIMO 수신기의 핵심 단계인 채널 추정, 등화, 검출, 디맵핑을 각각 전통적인 알고리즘과 경량 신경망으로 교체·보완한다. 가장 눈에 띄는 혁신은 공유 가중치 DetectorNN이다. 이 네트워크는 모든 공간 스트림에 동일한 파라미터를 적용해 스트림 수가 늘어나도 파라미터 수가 증가하지 않으며, 따라서 복잡도는 스트림 수에 대해 거의 선형적으로 증가한다. 이는 기존의 전역적인 CNN 기반 DeepRx가 전체 TTI를 한 번에 처리하면서 메모리·연산량이 급증하던 문제를 해결한다.

채널 추정 단계에서는 기존 파일럿 기반 추정값을 그대로 사용하고, DenoiseNN이 주파수 도메인에서 스무딩 필터 역할을 수행한다. 이 필터는 학습을 통해 실제 채널의 스펙트럼 특성을 반영하므로, 고정된 선형 보간보다 잡음·간섭에 강인한 추정값을 제공한다.

등화는 두 개의 병렬 경로로 구성된다. 첫 번째는 정규화된 제로 포싱(RZF) 등화기로, 정규화 파라미터 α를 통해 잡음 증폭을 억제한다. 두 번째는 LMMSE 등화기로, 여기서는 인터페이스‑플러스‑노이즈 공분산(INCM) 추정값을 사용한다. INCM은 파일럿 구간에서 추정된 간섭·노이즈 벡터의 샘플 공분산을 기반으로 하며, 동일한 공분산을 여러 서브캐리어에 공유함으로써 계산량을 크게 줄인다. 두 등화기의 출력은 동일한 차원(스트림 수)으로 정규화된 심볼 벡터를 제공하고, 이들을 병합해 DetectorNN에 입력한다. 병렬 등화 구조는 서로 다른 잡음·간섭 상황에 대해 보완적인 정보를 제공해 학습 안정성을 높이고, 최종 검출 성능을 향상시킨다.

DetectorNN은 공유 가중치와 작은 완전 연결층으로 구성돼, 등화된 심볼을 입력받아 각 스트림별 소프트 심볼을 출력한다. 이후 DemapperNN이 이 소프트 심볼을 LLR 형태로 변환해 채널 디코더에 전달한다. 전체 파이프라인은 전통적인 OFDM 수신 흐름을 그대로 유지하면서, 각 단계마다 최소한의 신경망을 삽입해 복잡도와 메모리 요구량을 제한한다.

실험에서는 5G/6G 규격에 맞춘 OFDM 파라미터와 다양한 채널 모델(예: EPA, EVA, 3GPP Urban Macro)·파일럿 배치·셀 간 간섭 조건을 시뮬레이션했다. 결과는 비트 오류율(BER)과 블록 오류율(BLER) 모두에서 기존 LMMSE‑ZF 기반 베이스라인보다 12 dB 정도의 SNR 이득을 보였으며, 스펙트럼 효율(전송률)에서도 유의미한 개선을 확인했다. 특히 MIMO 레이어 수를 2→8까지 늘려도 재학습 없이 동일한 모델을 사용할 수 있었으며, FLOPS 측정에서는 전체 파이프라인이 1015% 수준의 연산량 증가만을 보였다.

아벨레이션 연구에서는 (1) DenoiseNN 없이 순수 선형 보간, (2) 단일 등화기만 사용, (3) DetectorNN을 별도 스트림마다 독립 파라미터로 학습하는 경우 등을 비교했다. 그 결과, DenoiseNN과 병렬 등화기의 결합이 가장 큰 성능 향상을 제공했으며, 공유 가중치 DetectorNN이 메모리 절감과 동시에 일반화 능력을 유지함을 확인했다.

요약하면, EqDeepRx는 (i) 선형 등화와 INCM 추정이라는 물리 기반 모듈을 유지하면서, (ii) 주파수 도메인 채널 스무딩, (iii) 공유 가중치 검출 네트워크, (iv) 경량 디맵퍼를 추가함으로써, 실시간 5G/6G 시스템에 적용 가능한 저복잡도·고성능 MIMO 수신기를 구현했다.