MIMO 검출에서 유한 격자 크기 효과

본 논문은 무한 격자를 전제로 설계된 구형 디코딩(SD)과 격자 감소(LR) 기법을 실제 MIMO 시스템에서 사용되는 유한 격자에 적용했을 때 발생하는 성능·복잡도 차이를 체계적으로 연구한다. 먼저, MIMO 시스템의 복소수 입력‑출력 관계 y=Hs+n을 전송 심볼 s∈OM을 정수 격자 CZ로 매핑하는 변환 x=as+c를 통해 r=Gx+n 형태로 변환한다. 여기서 G=a⁻¹H이며, x은 유한 알파벳 X의 M‑차원 Cartesian product이다. 이 변환은 MIMO 최대우도 검출(MLD)을 유한 격자 L(G) 위의 최근접 벡터 문제(CVP)로 바꾸어, 전통적인 구형 디코딩(SD)이나 LLL 기반 격자 감소(LR)와 같은 무한 격자 전용 알고리즘을 적용할 수 있게 만든다. 논문은 두 가지 주요 접근법을 비교한다. 첫 번째는 유한 격자 위에서 직접 SD(SES‑D)를 수행하는 방법이며, 두 번째는 격자를 무한으로 확장한 뒤 LR을 적용하고, 다시 SD를 수행하는 완화된 방법(relaxed SES‑D, LR‑SESD)이다. LR은 무한 격자에만 적용 가능하고, 변환된 격자 B=GT는 L(G)와 동일한 무한 격자를 생성하지만, 원래의 유한 격자와는 다를 수 있다. 따라서 LR‑후 SD는 최종적으로 얻은 점이 유한 격자에 속하지 않을 가능성이 높으며, 이를 다시 유한 격자에 매핑해야 한다. 이 재매핑 과정에서 발생하는 오류는 특히 저 SNR 구간에서 크게 증가한다. 복잡도 분석에서는 저 SNR에서 SES‑D가 탐색 반경 r_min이 크게 커져 거의 전체 트리를 탐색하게 되는 반면, relaxed SES‑D는 무한 격자 특성상 반경이 제한되어 탐색 노드 수가 현저히 감소함을 수식적으로 증명한다. 구체적으로, SES‑D는 최소 반경 r_min ≥ ‖v‖−σ_max(R)K 로 표현되며, N₀→∞(SNR→0)일 때 거의 모든 노드가 방문된다. 반면, relaxed SES‑D는 첫 번째 Babai 점을 찾은 뒤 반경을 β 로 제한하고, 볼륨·보로노이 셀 비율을 이용해 전체 복잡도 상한 C ≤ Σ_i V(M−i+1)(β+γ_i)/det(R_i^HR_i) 로 제시한다. 고 SNR에서는 잡음이 작아져 두 방법 모두 동일한 최적 해를 찾게 되지만, SES‑D는 알파벳 제약을 이용해 불필요한 노드 탐색을 차단하므로 복잡도가 낮다. 반면, relaxed SES‑D는 무한 격자 전체를 탐색하므로 복잡도가 오히려 증가한다. 시뮬레이션은 4×4 MIMO, 16‑QAM을 사용해 복잡도와 오류율을 비교한다. 저 SNR에서는 relaxed SES‑D가 SES‑D 대비 최대 55% 정도 노드 방문 수를 절감하지만, 오류율은 2~3 dB 정도 크게 악화된다. LR‑SESD는 복잡도는 더 낮아지지만, 재매핑 오류가 누적되어 전체 오류율이 크게 상승한다. 고 SNR에서는 모든 방법이 거의 동일한 오류율을 보이지만, 복잡도 면에서 SES‑D가 가장 효율적이다. 결론적으로, LR은 SD와 결합했을 때 복잡도는 줄일 수 있으나, 유한 알파벳 제약을 무시함으로써 성능 손실이 불가피함을 보여준다. 따라서 실용적인 MIMO 검출 설계에서는 LR을 무조건 적용하기보다, 유한 격자 특성을 고려한 재매핑 전략이나, LR 없이 직접 유한 격자 SD를 적용하는 것이 더 바람직할 수 있다. 논문은 복잡도와 성능 사이의 트레이드오프를 정량적으로 평가할 수 있는 새로운 분석 틀을 제공하며, 향후 연구에서는 효율적인 재매핑 방법이나, 유한 격자에 직접 적용 가능한 새로운 LR 변형을 탐색할 필요성을 제시한다.