밀도형 MIMO 채널 추정을 위한 2차원 아이스 필링 관측 행렬 설계

초록

**
밀집 안테나 배열에서 발생하는 강한 공간·상호결합 상관성을 활용해, 전송 프리코더와 수신 콤비너를 공동 설계한다. 저자들은 채널 공분산의 좌·우 특이공간을 각각 프리코더와 콤비너의 고유벡터로 매핑하는 2D Ice‑Filling(2DIF) 알고리즘을 제안하고, 위상만 제어 가능한 아날로그 회로에 적용 가능한 두 단계 TS‑2DIF 방식을 확장하였다. 시뮬레이션 결과, 기존 최첨단 방법들에 비해 LMMSE 기반 채널 추정 오차가 크게 감소함을 보였다.

**

상세 분석

**
본 논문은 밀도형(MIMO) 시스템에서 안테나 간 간격이 λ/6 이하로 매우 작아짐에 따라 발생하는 고강도 공간 상관성과 전자기 상호결합(coupling)을 ‘채널 커널(공분산 행렬)’이라는 형태로 명시적으로 모델링한다. 이러한 커널은 가우시안 프로세스 회귀(GPR) 관점에서 사전 지식(prior)으로 활용될 수 있으며, 관측 행렬 X (프리코더와 콤비너의 크로네커 곱)과 채널 h 사이의 상호 정보량(MI)을 최대화하는 것이 최적의 LMMSE 추정 성능을 보장한다는 점을 이론적으로 제시한다.

핵심 공헌은 두 가지이다. 첫째, 채널 공분산 Σ_h 의 고유공간을 송신 측 R_tx·C_tx 와 수신 측 R_rx·C_rx 이라는 두 개의 서브공간으로 완전히 분리(decouple)할 수 있음을 증명한다. 이때 각 서브공간의 고유벡터는 각각 프리코더 V 와 콤비너 W 의 설계 후보가 된다. 저자들은 ‘2D Ice‑Filling’이라는 탐욕적(greedy) 알고리즘을 도입해, 각 서브공간에서 가장 큰 고유값에 해당하는 벡터를 순차적으로 선택함으로써 관측 행렬을 구성한다. 물리적으로는 물이 차오르는 물탱크에 얼음 블록을 채워 넣는 과정과 유사하게, 채널 에너지(고유값) 큰 차원부터 차례로 ‘채우는’ 방식이다.

둘째, 실제 하이브리드 MIMO 구현에서는 아날로그 콤비너가 위상 전용(phase‑only) 제어만 가능하므로, 2DIF가 요구하는 복소수 가중치(진폭·위상) 자유도가 제한된다. 이를 해결하기 위해 ‘Two‑Stage 2DIF(TS‑2DIF)’를 제안한다. 첫 단계에서는 아날로그 위상 매트릭스 A 를 고정된 위상 집합 내에서 순환 탐색하며, 두 번째 단계에서는 디지털 콤비너 D 와 프리코더 V 를 각각 고유벡터 기반으로 최적화한다. 두 단계가 번갈아 가며 업데이트되므로, 최종 관측 행렬은 원래 2DIF가 달성할 수 있는 최적에 근접한다.

알고리즘 복잡도 측면에서, 2DIF는 고유값 분해와 선형 탐색만 필요해 O(N_T^3+N_R^3) 정도이며, TS‑2DIF는 추가적인 위상 탐색 루프가 포함돼도 실용적인 O(Q·N_R·N_T) 수준에 머문다. 시뮬레이션에서는 λ/8 간격, 64×64 안테나 배열, 다양한 SNR 구간을 대상으로, 기존의 무작위 프리코더/콤비너, 물리적 기반의 ‘Water‑Filling’ 설계, 그리고 최신 딥러닝 기반 압축감지 추정기와 비교했다. 결과는 평균 제곱오차(MSE)와 NMSE 모두 3 dB 이상 개선되었으며, 특히 고SNR 영역에서 2DIF가 거의 최적 LMMSE 한계에 도달함을 보여준다.

한계점으로는 (1) 채널 공분산이 정확히 알려져야 한다는 전제, (2) 고정된 프리코더·콤비너 구조(예: 제한된 RF 체인 수)에서의 확장성, (3) 실시간 구현 시 고유값 분해 비용이 여전히 부담될 수 있다는 점을 들 수 있다. 향후 연구는 실시간 추정에 적합한 저복잡도 근사분해, 동적 환경에서의 공분산 추정 및 적응형 2DIF, 그리고 RIS와 결합한 전반적인 시스템 최적화로 이어질 전망이다.

**