두 방향 MIMO 중계에서 강인한 톰린슨하라시마 프리코딩 설계

본 논문은 다중 안테나를 갖는 양방향 중계 네트워크에서 톰린슨‑하라시마(TH) 프리코딩을 적용할 때 발생하는 채널 상태 정보(CSI) 불완전성 문제를 다룬다. 서론에서는 양방향 중계가 스펙트럼 효율을 크게 향상시키는 장점과, MIMO 기술이 공간 다이버시티와 전송량을 증대시키는 효과를 소개한다. 기존 연구들은 대부분 완전한 CSI를 전제로 TH 프리코딩을 설계했으며, 이는 실제 시스템에서 채널 추정 오차와 피드백 오류로 인해 성능 저하를 초래한다는 점을 지적한다. 시스템 모델에서는 두 송신기와 하나의 중계기가 각각 N_t개의 안테나를 가지고, 전송은 두 타임 슬롯에 걸쳐 이루어진다. 첫 번째 슬롯에서 각 송신기는 TH 프리코딩을 거쳐 선형 프리코딩 행렬 F_i와 결합된 신호 x_i를 전송하고, 중계기는 선형 프리코딩 행렬 F_r을 적용해 두 신호를 합성한다. 두 번째 슬롯에서 중계기의 출력은 각 수신기에 전달되고, 수신기는 선형 등화 행렬 Γ_i를 사용해 원본 신호를 복원한다. 채널 모델에서는 송신기‑중계기 링크(H_i)는 완전히 추정된다고 가정하고, 중계기‑수신기 링크(G_i)는 추정값 ˆG_i와 오차 ΔG_i로 표현한다. ΔG_i는 구형 구역 S_g={a‖a‖_2≤σ_g} 안에 존재한다고 가정한다. 이러한 불확실성 하에서 목표는 각 수신기의 평균 제곱 오차(MSE) 합을 최소화하면서, 송신기와 중계기의 전송 전력이 각각 P_i,t와 P_rt 이하가 되도록 하는 것이다. 수식 전개에서는 MSE_i를 Γ_i, F_i, F_r, C_i(TH 프리코딩 행렬)와 채널 행렬들의 함수로 나타낸다. 최악‑사례 설계로 전환하기 위해 ΔG_i에 대한 최댓값을 구하고, 이를 MSE 식에 포함시킨다. Γ_i에 대해 편미분을 수행해 최적 Γ_i의 폐쇄형 해를 얻고, 이를 MSE 식에 대입하면 Γ_i가 사라진 형태가 된다. 이후 트레이스와 행렬식의 관계를 이용해 MSE를 행렬식의 역수 형태로 변형하고, 행렬식 최대화 문제로 전환한다. 행렬 분해 단계에서는 H와 ˆG에 대한 특이값 분해(SVD)를 수행하고, 프리코딩 및 중계 행렬을 해당 특이벡터에 정렬시켜 대각화한다. 이렇게 하면 최적화 변수는 각 행렬의 특이값(Λ_r, Λ_1, Λ_2)으로 축소된다. 비선형 제약을 직접 해결하기 어려우므로, 교대 최적화 방식을 도입한다. 각 서브문제는 고정된 나머지 변수에 대해 최적화되며, 비볼록 항을 보조 변수와 슬랙 변수를 이용해 기하‑산술 평균 부등식으로 볼록 상한을 만든다. 결과적으로 각 서브문제는 2차원 원뿔 프로그램(SOCP) 형태로 변환되어 표준 최적화 솔버로 해결 가능하다. 알고리즘은 초기값을 설정한 뒤, Λ_r, Λ_1, Λ_2를 순차적으로 업데이트하고, 각 단계에서 SOCP를 풀어 최적값을 얻는다. 수렴 기준은 MSE 변화량이 미리 정한 임계값 이하가 될 때이며, 시뮬레이션 결과는 몇 번의 반복만으로도 수렴함을 보여준다. 시뮬레이션에서는 N_t=N_r=4인 경우를 가정하고, 채널 오차 분산 σ_g^2를 0, 0.01, 0.05로 변화시켜 성능을 평가한다. 전력 제한 P_rt을 5 dB, 10 dB, 15 dB로 바꾸면서 MSE와 수렴 속도를 관찰하였다. 전력 제한이 높을수록 MSE가 감소하고, 채널 불확실성이 커질수록 MSE가 증가하지만, 제안된 강인 설계는 완전 CSI 경우와 비교했을 때 성능 저하를 최소화한다. 또한, 알고리즘의 반복 횟수는 10회 이하로 수렴하여 실시간 구현 가능성을 시사한다. 결론에서는 본 연구가 양방향 MIMO 중계 시스템에서 TH 프리코딩의 강인성을 확보하기 위한 최초의 시도임을 강조한다. 최악‑사례 기반의 MSE 최소화와 교대 볼록 최적화를 결합한 프레임워크는 채널 불확실성이 큰 실제 무선 환경에서도 안정적인 전송을 가능하게 한다. 향후 연구에서는 다중 중계기 확장, 다른 불확실성 모델(예: 확률적) 적용, 그리고 실제 하드웨어 구현을 통한 검증이 제안된다.