대규모 MIMO, 라이스안 채널에서도 “실패”는 거의 일어나지 않는다

본 논문은 차세대 5G 네트워크 표준화 과정에서 대규모 다중입출력(Massive MIMO) 기술이 라이스안(Rician) 페이딩 환경에서 얼마나 견고한지를 이론적·수치적으로 검증한다. 기존 연구들은 주로 제로 평균 가우시안(Rayleigh) 채널을 전제로 대규모 안테나 수가 증가함에 따라 사용자 간 채널 벡터가 서로 직교한다는 ‘좋은 전파(favorable propagation)’ 가정을 사용했다. 그러나 라이스안 채널에서는 LoS(직진 경로) 성분과 확산 성분이 동시에 존재하고, 각 사용자마다 서로 다른 K‑factor와 공분산 행렬 \(R_k\)를 가질 수 있다. 이러한 비동질성은 전통적인 독립·동일분포(i.i.d.) 가정이 깨질 위험을 내포한다. 논문은 먼저 시스템 모델을 정의한다. 베이스 스테이션(BS)은 M개의 안테나를, 각 사용자 k는 단일 안테나를 가지고 uplink 전송을 수행한다. 채널 벡터는 \(g_k = \sqrt{\frac{K_k}{K_k+1}}\;\bar h_k + \sqrt{\frac{1}{K_k+1}}\;R_k^{1/2} e_h\) 로 표현되며, 여기서 \(\bar h_k\)는 정규화된 LoS 벡터(\(\|\bar h_k\|^2=M\)), \(e_h\sim\mathcal{CN}(0,I_M)\)는 확산 성분, \(R_k\)는 반상관 공분산 행렬, \(\operatorname{tr}(R_k)=M\)이다. MRC(최대비율 결합) 수신기를 가정하고, 사용자 k에 대한 총 간섭 전력은 \(I_k = \sum_{\ell\neq k} |g_k^H g_\ell|^2\) 으로 정의한다. 이를 전개하면 네 개의 항(term1~term4)으로 분리된다. 각각은 다음과 같다. - **term1**: \(\bar h_\ell^H R_k \bar h_\ell\) – LoS 벡터와 다른 사용자의 공분산 행렬 사이의 이중형(quadratic) 형태. - **term2**: \(\operatorname{tr}(R_\ell R_k)\) – 두 공분산 행렬 간의 트레이스 곱. - **term3**: \(|\bar h_\ell^H \bar h_k|^2\) – 두 사용자의 LoS 벡터 간 내적 제곱. - **term4**: \(\bar h_k^H R_\ell \bar h_k\) – term1과 구조가 동일하지만 역할이 바뀐 형태. 각 항이 \(O(M^2)\) 수준으로 남아 있으면, 원하는 신호 전력과 같은 스케일이 되어 간섭이 사라지지 않는다. 따라서 논문은 **C1, C2, C3**라는 세 가지 수학적 조건을 제시한다. - **C1**: \(\frac{1}{M^2}\bar h_\ell^H R_k \bar h_\ell \to 0\) (∀k,ℓ) – LoS 벡터가 \(R_k\)의 고유벡터와 강하게 정렬되지 않아야 함. - **C2**: \(\frac{1}{M^2}\operatorname{tr}(R_\ell R_k) \to 0\) (∀k,ℓ) – 두 공분산 행렬이 서로 거의 직교해야 함. - **C3**: \(\frac{1}{M^2}|\bar h_\ell^H \bar h_k|^2 \to 0\) (∀k,ℓ) – 두 LoS 벡터가 동일하거나 각도 차이가 \(O(1/M)\) 수준으로 작지 않아야 함. 위 조건을 위반하는 경우를 네 가지 시나리오로 구체화한다. 1. **Scenario 1** – LoS 벡터 \(\bar h_\ell\)가 \(R_k\)의 약한 고유벡터와 정렬되고, 해당 고유값이 \(O(M)\)일 때 term1이 비소멸한다. 2. **Scenario 2** – 두 공분산 행렬의 고유벡터가 서로 정렬되고, 그에 대응하는 고유값이 \(O(M)\)이면 term2가 비소멸한다. 3. **Scenario 3** – 두 사용자의 LoS 벡터가 완전히 정렬(\(\bar h_k = \alpha \bar h_\ell\))하면 term3이 비소멸한다. 4. **Scenario 4** – ULA(Uniform Linear Array)에서 두 사용자의 입사각 차이가 \(\Delta\theta = \gamma/M\)와 같이 매우 작을 경우, term3이 비소멸한다(이는 Scenario 3의 특수 경우). 이러한 상황은 물리적으로 “강한 LoS 정렬” 혹은 “공분산 행렬의 고유벡터 정렬”이라는 매우 제한된 경우에만 발생한다. 실제 이동통신 환경에서는 사용자 위치가 무작위이고, 안테나 배열이 넓은 각도 스프레드를 갖기 때문에 이러한 정렬이 일어날 확률은 극히 낮다. 수학적 증명으로는 **Proposition 1**을 제시한다. C1·C2가 만족될 경우, 즉시 \(\frac{1}{M}G^H G \xrightarrow{\text{mean‑square}} \frac{1}{M}\mathbb{E}