양안테나 중계기 MMSE 기반 상호보정: 베이지안 최적화와 von Mises 위상 정밀화

초록

**
본 논문은 중계기 지원 MIMO 시스템에서 양안테나 중계기의 송·수신 비대칭을 베이지안 MMSE 프레임워크로 모델링하고, 복소 위상 파라미터에 특화된 von Mises 디노이저를 도입한 새로운 보정 알고리즘을 제안한다. 시뮬레이션 결과, 기존 비선형 최소제곱(NLS) 방식에 비해 추정 정확도가 크게 향상되고, 연산 복잡도는 비슷한 수준을 유지한다.

**

상세 분석

**
이 논문은 기존 TDD 대규모 MIMO에서 가정하던 “단일 홉·동일 하드웨어” 모델을 넘어, 중계기가 삽입된 복합 경로에서 발생하는 비대칭 하드웨어 응답(α, β)과 각 안테나의 TX/RX 체인 불일치를 동시에 보정하는 문제를 제시한다. 핵심은 모든 미지 파라미터에 대해 사전 확률분포를 가정하고, 관측 노이즈와 결합된 확률 모델을 완전하게 기술한 베이지안 프레임워크를 구축한 점이다.

MMSE 추정은 사후 평균을 최소 평균제곱오차 기준으로 계산하는데, 여기서는 확률적 데이터 연관(PDA) 기법을 이용해 이중선형(양방향) 측정식(8a‑8d)을 순차적으로 업데이트한다. 특히, 복소 위상이 원형(단위 원) 위에 존재한다는 사실을 활용해 von Mises 분포 기반 디노이저를 설계했으며, 이는 위상 추정의 편향을 최소화하고 수렴 속도를 크게 높인다.

알고리즘은 크게 네 단계로 구성된다. ① 초기값은 기존 NLS 방식(Alg. 1)에서 얻은 H와 Z를 사용한다. ② PDA를 통해 각 반복에서 A와 B(각 안테나의 TX/RX 보정 행렬)를 대각 원소만 업데이트하며, 정규화로 수치적 안정성을 확보한다. ③ Z와 H는 각각 순위‑1 근사와 벡터화된 선형 시스템 해석을 통해 갱신한다. ④ 마지막으로 γ = β/α 비율을 트레이스 기반 식(14)으로 추정한다.

복잡도 분석에 따르면, 주요 연산은 행렬‑벡터 곱과 SVD(1‑rank 근사)이며, 이는 O(M_A M_B) 수준으로 기존 NLS와 동등하거나 약간 낮다. 시뮬레이션에서는 SNR이 낮은 0 dB5 dB 구간에서 특히 성능 격차가 크게 나타났으며, 평균 제곱오차가 NLS 대비 3 dB 이상 개선되었다. 또한, 수렴 횟수가 57회로 제한돼 실시간 구현 가능성을 시사한다.

한계점으로는 사전 분포를 Gaussian·von Mises 형태로 가정했는데, 실제 하드웨어 비대칭이 보다 복잡한 비선형 왜곡을 보일 경우 모델 불일치가 발생할 수 있다. 또한, 두 안테나 배열 간의 채널 G가 완전히 알려지지 않은 경우, 현재 프레임워크는 G를 추정 변수에 포함시키지 않아 추가 연구가 필요하다.

**