구형 경계 스택 디코더: MIMO 시스템을 위한 고성능 저복잡도 하드·소프트 디코딩

본 논문은 다중 안테나(MIMO) 시스템에서 기존 최대우도(ML) 디코더가 안테나 수와 변조 차수가 증가함에 따라 복잡도가 급격히 상승하는 문제를 해결하고자 한다. 이를 위해 스택 디코더의 탐색 전략에 구형(Sphere) 경계 제약을 결합한 새로운 순차 알고리즘, 즉 Spherical‑Bound‑Stack 디코더(SB‑Stack)를 제안한다. 먼저 시스템 모델을 정의한다. 공간 다중화(SM)와 선형 공간‑시간 블록 코드(STBC)를 포함한 MIMO 전송 모델을 복소수 형태에서 실수 형태로 변환해 2N × 2M 차원의 격자 생성 행렬 H를 얻는다. 채널이 완벽히 알려졌다고 가정하고, QR 분해를 통해 y = Qz, H = QR 형태로 변환한다. 이때 상삼각 행렬 R을 이용해 트리 구조를 구성하고, 각 레벨 k에서 부분벡터 x(k)와 비용 함수 f(x(k))를 정의한다. 전통적인 스택 디코더는 무한 격자 탐색으로 인해 메모리와 연산량이 비현실적이지만, 구형 경계 Λ = {‖y − Hx‖² ≤ R²} 를 도입하면 탐색 영역을 제한할 수 있다. SB‑Stack는 이 구형 영역 안에서 Best‑First Search 방식을 적용해, 비용이 가장 낮은 노드를 스택 상단에 유지하고 그 자식들을 확장한다. 스택은 비용 순으로 정렬되므로, 탐색 과정에서 불필요한 노드 방문이 최소화된다. 하드 디코딩에서는 두 가지 구현 방식을 제시한다. (1) 충분히 큰 반경 R을 설정해 구형 영역이 전체 격자를 포함하도록 함으로써 ML 성능을 보장한다. (2) R을 조절해 복잡도‑성능 트레이드오프를 제공한다. 작은 R은 ZF‑DFE 수준의 성능을 제공하지만 연산량이 크게 감소하고, 큰 R은 거의 ML 성능에 근접한다. 시뮬레이션에서는 4×4 및 8×8 MIMO 시스템에서 SB‑Stack가 기존 스피어 디코더와 동일한 BER 성능을 유지하면서 평균 방문 노드 수가 30 %~50 % 감소함을 확인했다. 소프트 디코딩을 위해서는 스택에 저장된 후보 경로들의 비용을 이용해 로그우도비(Likelihood Ratio, LLR)를 직접 계산한다. 기존 소프트 스피어 디코더는 후보 리스트를 별도로 생성하고 리스트 크기에 비례해 복잡도가 증가하지만, SB‑Stack는 이미 정렬된 스택을 활용해 후보 리스트 없이 바로 LLR을 산출한다. 이 방법은 메모리 사용량을 크게 줄이고, 복잡도는 후보 수에 독립적이다. 실험 결과, 64‑QAM 및 256‑QAM 변조에서 SB‑Stack 기반 소프트 디코더는 기존 소프트 디코더 대비 최대 2 dB의 SNR 이득을 보이며, 복잡도는 40 % 이하로 감소하였다. 복잡도 분석에서는 평균 방문 노드 수, 메모리 요구량, 그리고 연산량(곱셈·덧셈) 등을 정량적으로 비교하였다. Fano 디코더는 메모리 없이 구현 가능하지만 동일 노드에 반복 방문하는 경향이 있어 연산량이 많다. 스택 디코더는 메모리를 사용해 중복 방문을 방지하고, SB‑Stack는 구형 경계 덕분에 탐색 깊이가 얕아져 전체 연산량이 크게 감소한다. 특히 차원 n ≥ 8, 변조 차수 M ≥ 64인 경우 복잡도 차이가 두드러진다. 결론적으로, SB‑Stack 디코더는 하드·소프트 양쪽 모두에서 기존 ML 디코더와 동등한 성능을 유지하면서 복잡도와 메모리 요구를 효율적으로 낮춘다. 구형 경계와 스택 기반 Best‑First Search의 결합은 대규모 MIMO, 고차 변조, 그리고 차세대 무선 통신 시스템에서 실용적인 디코딩 솔루션으로 활용될 수 있다.