비선형 희소 베이지안 학습 방법과 대규모 MIMO 채널 추정 및 하드웨어 손상 적용

초록

본 논문은 대규모 MIMO 시스템에서 수신기 하드웨어 손상(비선형 LNA 왜곡 등)을 고려한 채널 추정 문제를 다룬다. 왜곡 함수를 가우시안 프로세스(GP) 회귀로 학습하고, 의사 입력(pseudo‑input) 기법으로 계산량을 줄인다. 이후 이 GP 기반 왜곡 모델을 희소 베이지안 학습(SBL) 프레임워크에 통합해 두 가지 비선형 SBL 알고리즘을 제안한다. 제안 방법은 기존 Bussgang 기반 LMMSE 및 선형 SBL에 비해 강한 왜곡 및 고 SNR 환경에서 NMSE가 크게 개선됨을 시뮬레이션으로 입증한다.

상세 분석

이 연구는 대규모 MIMO 채널이 각도 도메인에서 희소성을 갖는다는 물리적 특성을 활용하면서, 실제 수신기에서 발생하는 비선형 왜곡을 명시적으로 모델링한다는 점에서 혁신적이다. 기존의 Bussgang 분해 기반 접근은 왜곡을 1차 선형 근사와 잡음으로 분리하지만, 왜곡 함수 자체를 정확히 알 필요가 없으며, 통계적 1차·2차 모멘트만 이용한다는 한계가 있다. 반면 본 논문은 왜곡 함수 g(·)를 데이터‑드리븐 방식으로 학습한다. 가우시안 프로세스는 사전 커널(예: RBF)으로 함수의 매끄러움과 스케일을 제어하고, 사후 분포를 통해 입력 공간 전반에 대한 예측과 불확실성 추정이 가능하다. 그러나 전통적인 GP는 O(N³) 복잡도로 대규모 데이터에 부적합하므로, 저자들은 pseudo‑input(또는 inducing point) 방식을 도입해 학습 및 예측 비용을 O(M·M̃²) (M̃≪M) 수준으로 낮춘다.

SBL은 가우시안-감마 하이퍼프라미터 구조를 이용해 가중치 벡터와 스케일(precision) 벡터를 교번 업데이트한다. 선형 SBL에서는 가중치에 대한 선형 시스템을 풀면 되지만, 비선형 g가 포함되면 시스템이 비선형 방정식이 된다. 저자들은 이를 근사적으로 해결하기 위해 두 가지 최적화 목표를 제시한다. 첫 번째는 가중치와 스케일에 대한 주변 사후밀도(marginal posterior)를 최대화하는 방식으로, 변분 베이즈 추정에 가까운 형태이며 계산량이 비교적 적다. 두 번째는 채널, 가중치, 스케일을 모두 포함한 결합 사후밀도(joint posterior)를 직접 최대화하는 방식으로, 더 정확한 추정이 가능하지만 반복마다 비선형 최적화(예: Newton‑type)와 GP 미분이 필요해 복잡도가 상승한다.

복잡도 분석에서는 pseudo‑input 수가 정확도와 연산량 사이의 트레이드오프를 결정한다는 점을 강조한다. 실험에서는 20~30개의 pseudo‑input이 대부분의 시나리오에서 충분히 성능을 보장한다. 또한, 하이브리드 아날로그‑디지털 빔포밍과 1‑bit ADC와 같은 특수 상황에서도 GP와 SBL을 적절히 변형해 적용 가능함을 보인다. 특히 1‑bit ADC에서는 양자화 비선형성을 반영한 이산형 likelihood를 도입해 GP 회귀를 수행한다.

시뮬레이션 결과는 제안된 비선형 SBL이 LS, Bussgang LMMSE, 기존 선형 SBL에 비해 NMSE가 36 dB 정도 개선됨을 보여준다. 특히 왜곡 강도가 α=0.20.4인 경우와 SNR이 20 dB 이상일 때 이득이 두드러진다. 파일럿 길이와 안테나 수가 증가해도 제안 방법은 안정적인 성능을 유지한다. 전반적으로 이 논문은 하드웨어 비선형성을 데이터‑드리븐 방식으로 모델링하고, 이를 희소 베이지안 추정에 자연스럽게 결합함으로써 실용적인 대규모 MIMO 시스템에 필요한 고정밀 채널 추정 솔루션을 제공한다.