대규모 MIMO에서 LAS 탐색 알고리즘의 비동등성 분석 및 ML 성능 수렴 증명

본 논문은 대규모 다중입출력(MIMO) 시스템에서 저복잡도 검출기로 각광받는 Likelihood Ascent Search(LAS) 알고리즘의 비동등성(비트 오류율, BER) 성능을 이론적으로 분석하고, 무한 안테나 수(Nt=Nr→∞) 한계에서 ML(최대우도) 검출기와 동일한 성능에 수렴함을 증명한다. 논문은 다음과 같은 흐름으로 전개된다. 1. **시스템 모델 및 LAS 알고리즘 정의** - V‑BLAST 구조를 가정하고, 복소수 채널 행렬 H∈ℂ^{Nr×Nt}를 i.i.d. 복소 가우시안(N(0,1))으로 모델링한다. - 복소 신호를 실수 형태로 변환해 2Nt 차원 실수 시스템 y = Hx + n을 정의한다. - LAS 알고리즘은 초기 추정(d⁽⁰⁾)을 MF, ZF, 혹은 MMSE 필터를 통해 얻고, 1‑symbol 업데이트를 반복하면서 비용 함수 C(k)=‖y−Hd⁽ᵏ⁾‖²를 최소화한다. 업데이트는 비용 감소가 더 이상 없을 때 종료한다. 2. **수학적 도구와 보조정리** - Lemma 1은 d∈Lₙ(즉, n‑symbol 업데이트가 비용을 감소시키지 못함) ⇔ 특정 부등식(15)이 모든 가능한 n‑tuple에 대해 성립함을 보인다. - Lemma 2와 Lemma 3은 ML 해의 유일성 가정 하에, 노이즈 벡터 n이 만족해야 하는 부등식(18)과 영역 R_d를 정의하고, 서로 다른 후보 해 d_i, d_j에 대해 R_{d_i}와 R_{d_j}가 서로 겹치지 않음을 증명한다. 이는 “노이즈가 R_d에 있으면 d가 ML 해”라는 중요한 결론을 만든다. - Lemma 4는 i.i.d. 가우시안 채널 열 벡터들의 내적이 1/Nt 스케일로 0에 수렴한다는 사실을 강법칙을 이용해 증명한다. 이는 다중 심볼 업데이트 시 교차항이 무시 가능함을 뒷받침한다. - Lemma 5와 Slutsky 정리를 이용해, 다중 심볼 업데이트에 등장하는 복합 항 z_{u_n,d}가 N_t→∞에서 확률적으로 0으로 수렴함을 보인다. 3. **주요 정리** - **Theorem 1**: d∈S이고 n∈R_{d₁}이면, N_t가 충분히 클 때 n이 전체 영역 R_d에 속할 확률이 1에 수렴한다. 즉, “노이즈가 1‑symbol 조건을 만족하면, 다중 심볼 조건도 거의 항상 만족한다.” - **Theorem 2**: LAS 알고리즘의 최종 출력 d_LAS는 위 정리와 Lemma 3에 의해 N_t→∞에서 거의 확실히 ML 해와 동일해진다. 따라서 LAS 검출기의 심볼 오류 확률 P_{LAS}는 임의의 작은 δ에 대해 P_{LAS} ≤ P_{ML}+δ가 되며, δ→0이면 P_{LAS}→P_{ML}이다. 비트 오류 확률에 대해서도 동일한 수렴이 성립한다. 4. **시뮬레이션 결과** - 4‑QAM 및 16‑QAM을 사용해 Nt=Nr를 4, 8, 16, 32, 64까지 변화시키며 BER 곡선을 측정하였다. - ML 검출기의 정확한 BER는 계산 복잡도 때문에 직접 시뮬레이션이 어려워, SISO AWGN 한계를 하한으로 사용하였다. - 결과는 안테나 수가 10 이상일 때 LAS의 BER가 SISO AWGN 한계에 매우 근접하고, 10⁻³ 수준의 BER를 달성하기 위한 평균 SNR이 점차 감소함을 보여준다. 이는 이론적 수렴이 실제에서도 관찰된다는 것을 의미한다. - 작은 시스템(Nt<10)에서는 초기 성능 저하가 존재하는데, 이는 LAS가 로컬 최소에 머무를 가능성이 높아지는 현상으로 해석된다. 5. **논의 및 한계** - 채널 모델은 i.i.d. 레일리 페이딩과 완전 CSI를 전제로 하며, 실제 이동통신 환경의 채널 상관, 추정 오차, 제한된 연산 자원 등은 추가 연구가 필요하다. - 증명은 4‑QAM에 대해 상세히 전개했지만, 구조적으로 M‑QAM에도 확장 가능하다는 점을 언급한다. 다만, 고차원 M‑QAM에 대한 정확한 수학적 검증은 별도의 작업이 요구된다. - LAS 알고리즘의 복잡도는 초기 필터 선택과 업데이트 횟수에 크게 좌우되며, 실제 시스템 설계 시 이들 파라미터를 최적화해야 한다. **결론**: 본 연구는 대규모 MIMO 환경에서 저복잡도 LAS 검출기가 이론적으로 ML 검출기와 동일한 오류 성능을 달성한다는 강력한 증거를 제공한다. 이는 Massive MIMO, mmWave, 그리고 차세대 5G/6G 시스템에서 복잡도와 성능 사이의 균형을 맞추는 실용적인 솔루션으로 활용될 가능성을 시사한다.