대규모 MIMO 박스 디코딩을 위한 결정적 무정렬 후보 가지치기

초록

본 논문은 QAM 차수에 독립적인 복잡도를 유지하면서도 MIMO 차원이 커짐에 따라 급증하는 탐색 노드 수를 억제하기 위해, 기하학적 대칭성을 활용한 두 가지 결정적 무정렬 후보 가지치기 기법(SCP와 ICP)을 제안한다. 제안 기법은 정밀도 손실을 최소화하면서 연산량을 크게 줄이고, 완전 병렬 하드웨어 구현이 가능하도록 설계되었다.

상세 분석

Box Decoding은 제로‑포싱(ZF) 추정값을 중심으로 고정된 크기의 후보 “박스”를 구성하고, 그 안에서 모든 가능한 심볼을 탐색함으로써 QAM 차수에 무관한 복잡도를 달성한다. 그러나 박스 크기 B가 고정돼도 각 레이어마다 B 개의 후보가 생성되므로, N × N MIMO 시스템에서는 전체 탐색 노드 수가 B^{N‑1} 에 달해 실용성이 떨어진다. 이를 해결하기 위해 저자들은 두 가지 deterministic pruning 전략을 고안했다.

1️⃣ Single‑Step Candidate Pruning (SCP)
SCP는 각 레이어의 박스 클러스터에서 Rule 1(로컬 PED 최소 규칙)을 이용해 가장 작은 부분 유클리드 거리(PED) 증가량을 갖는 단일 후보만을 선택한다. Rule 1은 QAM 격자의 대칭성을 이용해 실제 거리 계산 없이 Δq 와 δ (추정값과 후보 간 차)만으로 비교가 가능하도록 설계되었으며, 하드웨어에서는 비트 시프트와 간단한 덧셈만으로 구현된다. 이 방식은 복잡도를 크게 낮추지만, 클러스터 간 전역 최적성을 보장하지 못한다는 ‘optimal child node skip’ 문제가 존재한다.

2️⃣ Iterative Candidate Pruning (ICP)
ICP는 위의 한계를 보완하기 위해 다중 리스트 병합(m‑Merge) 알고리즘을 적용한다. 각 박스 클러스터를 사전 정렬된 리스트로 보고, Rule 2(로컬 PED 순서 규칙)를 사용해 클러스터 내부 후보들을 정렬한다. 이후 전역 최소값을 반복적으로 선택하고, 선택된 리스트에서 다음 후보를 가져오는 과정을 K 개의 최우수 후보가 선정될 때까지 수행한다. 이 과정은 전통적인 K‑Best에서 요구되는 전체 후보 열거와 정렬을 피하면서도 전역 최적 후보를 확보한다.

3️⃣ Hybrid SCP‑ICP (SICP)
전체 레이어에 ICP를 적용하면 반복 횟수가 증가해 연산량이 늘어날 수 있다. 따라서 저자들은 초기 t 레벨에만 ICP를 적용하고, 나머지 레벨에서는 SCP를 사용해 복잡도와 성능 사이의 균형을 맞춘 하이브리드 방식을 제안한다. 실험 결과, t = 1 일 때 이미 K‑Best와 거의 동일한 BER을 달성하면서도 복잡도는 크게 감소한다.

복잡도 분석에서는 실수 곱셈(RMUL)과 실수 덧셈(RADD) 기준으로 기존 K‑Best, DKB, K‑Box와 비교하였다. Box‑SCP는 추가적인 pruning 오버헤드가 없고, Box‑ICP는 리스트 병합에 필요한 (L‑1) RADD만을 소모한다. 특히 후보 생성(CLE) 단계에서 박스 기반 방식은 QAM 크기 A와 무관하게 B 에만 의존하므로, 고차원·고차수 QAM 환경에서 매우 효율적이다.

시뮬레이션은 4×4 및 8×8 MIMO, 64‑QAM을 대상으로 수행되었다. 모든 박스 변형은 ZF/LMMSE 대비 약 5 dB SNR 이득을 제공하고, K‑Best와 거의 일치하는 BER 곡선을 보였다. Box‑SCP는 약 1.3 dB 성능 저하가 있었지만, ICP 레이어를 추가한 Box‑SICP 1은 약 0.7 dB 향상으로 K‑Best에 근접했다. t 값을 2, 3으로 늘려도 성능 차이는 미미했다.

결론적으로, 제안된 deterministic, sort‑free pruning 기법은 QAM 차수 독립성을 유지하면서도 탐색 노드 수를 제어해 대규모 MIMO·고차 QAM 시스템에 적합한 하드웨어‑친화적 구현을 가능하게 한다.