선형 벡터 가우시안 채널에서 임의 입력 분포 최적 프리코딩

본 논문은 선형 벡터 가우시안 채널에서 임의의 입력 분포를 갖는 경우, 상호 정보를 최대화하는 프리코더(P)의 구조와 최적화 문제를 체계적으로 분석한다. 채널 모델은 Y = H P S + Z 로 정의되며, 여기서 H는 채널 행렬, P는 설계 대상 프리코더, S는 평균 0, 공분산 I 로 정규화된 입력 벡터, Z는 단위 공분산을 갖는 가우시안 잡음이다. 전송 전력 제약은 tr(P Pᵀ) = ρ 로 설정한다. 먼저, 성능 지표가 입력과 출력의 결합 확률분포에만 의존한다는 점에서, P가 R_H = Hᵀ H 와의 곱 Pᵀ R_H P 로만 영향을 미친다는 Lemma 1을 제시한다. 이를 바탕으로, “reasonable performance measure” 라는 정의를 도입해, 전력 효율성을 만족하는 모든 지표에 대해 동일한 결론을 얻는다. 다음으로, 프리코더를 특이값 분해(P = Uₚ Σₚ Vₚᵀ) 하여 최적 구조를 탐구한다. Proposition 1에서는 좌측 특이벡터 Uₚ가 채널 공분산 R_H 의 가장 큰 고유값에 대응하는 고유벡터들로 선택될 수 있음을 증명한다. 즉, Uₚ는 채널의 주요 전송 모드와 정렬되는 것이 최적이며, 이는 전통적인 워터필링 정책과 일치한다. 특이값 Σₚ에 대해서는, 상호 정보 I(S;Y′) 가 Σₚ² 의 대각 원소에 대해 볼록함수임을 Lemma 2를 통해 확인한다. 이를 이용해 KKT 조건을 적용하면, 각 특이값 σ_i² 가 0인 경우와 양수인 경우에 대한 구체적인 식 (10)을 얻는다. 여기서 λ_i²는 채널 고유값, mmse_i(Σₚ, Vₚ)는 i번째 입력 성분에 대한 MMSE이며, 라그랑주 승수 η는 전력 제약을 만족하도록 조정된다. 이 식은 물리적으로 전력이 채널 이득이 큰 방향에 집중된다는 직관을 수학적으로 정량화한다. 우측 특이벡터 Vₚ는 세 가지 상황에 따라 그 역할이 달라진다. 가우시안 입력과 저 SNR(신호대잡음비)에서는 상호 정보가 Q = P Pᵀ 만의 함수가 되므로 Vₚ가 사라진다. 구체적으로, 가우시안 경우 I = (1/2) log det(I + Q R_H) 로, 저 SNR 경우 I ≈ (1/2) tr(Q R_H) 로 근사된다. 따라서 두 경우에는 전력 할당(워터필링)만 수행하면 최적 프리코더를 얻을 수 있다. 반면 고 SNR에서 입력이 이산(예: QAM, PSK)일 때는 최소 거리 d_min² = min_{e∈E} eᵀ Pᵀ R_H P e 가 성능을 좌우한다. 여기서 E는 입력 심볼 차이 집합이다. 이 문제는 MaxMinDist 라는 최적화 문제(16)로 정형화되며, 전력 제약 하에 최소 거리를 최대화하는 프리코더를 찾는 것이다. 저자들은 이 문제를 NP‑hard임을 증명한다. 구체적으로, MinNorm(최소 노름 벡터)와 MinPower(주어진 거리 이상을 만족하는 최소 전력 프리코더)라는 두 보조 문제를 정의하고, Cook‑reduction을 이용해 MaxMinDist 가 NP‑hard임을 보인다. 이는 고 SNR에서 임의 이산 입력에 대한 최적 프리코더 설계가 다항 시간 알고리즘으로는 해결 불가능함을 의미한다. 논문은 또한 기존 문헌에서 잘못된 Jacobian 식을 정정하고, 전 범위 SNR에 대해 올바른 D_Q I 식을 제시한다(식 14). 이는 수치 최적화 시 정확한 그라디언트 계산에 필수적이다. 결론적으로, 본 연구는 프리코더 설계 문제를 “좌측 특이벡터와 특이값은 비교적 쉽게 구할 수 있지만, 우측 특이벡터는 입력 분포와 SNR에 따라 복잡도가 급격히 증가한다”는 관점에서 재구성한다. 특히 고 SNR에서 NP‑hard성을 입증함으로써, 기존에 가우시안 입력에만 초점을 맞춘 이유를 이론적으로 정당화하고, 실용적인 시스템 설계에서는 근사 알고리즘이나 휴리스틱 접근이 필요함을 강조한다.