Riemannian 최적화로 여는 차세대 무선 통신 혁신

초록

본 논문은 차세대 무선 통신에 필수적인 대규모 비선형 제약을 직접 다룰 수 있는 Riemannian 매니폴드 최적화(RMO)의 이론적 기반과 구현 방법을 정리한다. 복잡한 기하 제약을 갖는 Massive MIMO, RIS, ISAC, FAS‑NOMA 등 다양한 시스템을 자연스러운 매니폴드(복소 구면, Stiefel, Grassmann 등)로 재구성하고, RGD, RCG, R‑TR, quasi‑Newton 등 맞춤형 알고리즘을 적용한다. FAS‑assisted NOMA 보안 빔포밍 사례를 통해 기존 유클리드 기반 방법에 비해 성능·연산 효율이 크게 향상됨을 실증한다.

상세 분석

RMO는 제약을 완화하거나 근사하지 않고, 제약이 정의하는 매니폴드 위에서 직접 최적화를 수행한다는 점에서 기존 유클리드 기반 방법과 근본적으로 차별화된다. 논문은 먼저 매니폴드의 정의—임베디드 서브매니폴드, 리만 계량, 접공간—를 소개하고, 이를 무선 통신 문제에 매핑하는 절차를 상세히 제시한다. 특히 복소 구면 매니폴드는 상수 진폭(예: RIS 위상) 제약을, Stiefel 매니폴드는 직교 프리코딩 행렬을, Grassmann 매니폴드는 제한된 CSI 피드백 상황의 서브스페이스를 모델링한다. 이러한 매니폴드 선택은 문제의 기하학적 구조를 그대로 보존함으로써, 매 iteration마다 제약 위에 머무는 보장을 제공한다.

알고리즘 측면에서는 Riemannian Gradient Descent(RGD)와 Riemannian Conjugate Gradient(RCG)의 1차 방법을 기본 틀로 삼고, 필요에 따라 Riemannian Trust‑Region(R‑TR)과 quasi‑Newton 기법을 도입한다. RGD는 구현이 간단하지만 수렴 속도가 느린 반면, RCG는 벡터 전송을 활용해 초선형 수렴을 달성한다. R‑TR은 Hessian 정보를 이용해 이차적 수렴을 제공하지만 연산량이 크게 늘어나 대규모 시스템에는 부적합할 수 있다. quasi‑Newton은 제한된 메모리와 연산으로 Hessian 근사를 구축해 실용적인 성능‑복잡도 균형을 만든다.

논문은 이러한 알고리즘을 Massive MIMO 빔포밍, RIS 위상 설계, ISAC 파형 설계, FAS‑NOMA 보안 빔포밍 등 5가지 주요 응용에 적용한다. 특히 FAS‑assisted NOMA 시스템에서 안테나 위치와 보안 빔포밍 벡터를 복소 구면의 곱 매니폴드로 모델링하고, RCG 기반 최적화를 수행함으로써 전통적인 SDR·SCA 방식 대비 비밀 전송률이 15% 이상 향상되고, 평균 연산 시간이 40% 감소한다는 실험 결과를 제시한다. 또한, 매니폴드 선택 시 고려해야 할 수치 안정성, 재트랙션 함수의 설계 복잡도, 그리고 하드웨어 구현 시의 정밀도 요구사항 등을 논의한다.

전반적으로 본 논문은 RMO가 차세대 무선 시스템에서 복잡한 기하 제약을 효율적으로 다룰 수 있는 강력한 도구임을 이론적 증명과 실증적 사례를 통해 설득력 있게 제시한다.