랭크 제약 최소화로 보는 간섭 정렬 최적화

초록

본 논문은 정적 평탄 페이딩 MIMO 간섭 채널에서 합계 자유도(DoF) 최대화를 랭크 제약 최소화(RCRM) 문제로 변환한다. 간섭 신호가 가능한 최소 차원에 정렬되도록 랭크를 최소화하고, 유용 신호는 전체 공간을 활용하도록 랭크 제약을 둔다. 이후 랭크 대신 핵심 노름을 이용한 볼록 완화(convex relaxation)를 제안하고, 다중셀 환경에 맞게 제약을 조정한다. 실험 결과, 제안 알고리즘이 완전 간섭 정렬을 달성하거나 기존 방법보다 우수한 전처리·제로포싱 행렬을 찾는다.

상세 분석

이 논문은 MIMO 간섭 채널에서 각 사용자 쌍이 다중 안테나를 보유하고 있을 때, 전송률을 자유도(DoF) 관점에서 최적화하는 문제를 새로운 수학적 프레임워크인 랭크 제약 최소화(Rank Constrained Rank Minimization, RCRM)로 재구성한다. 기존 IA(Interference Alignment) 접근법은 선형 독립성 조건을 만족시키는 전처리(pre‑coding)와 수신 필터를 설계하는 것이 핵심이었으며, 이는 종종 비선형 방정식 시스템을 풀어야 하는 어려운 최적화 문제로 귀결되었다. 저자들은 “신호 공간이 모든 가능한 차원을 차지한다”는 가정 하에, 유용 신호 행렬의 랭크가 전송 안테나 수와 동일하도록 강제하고, 동시에 간섭 행렬들의 랭크를 가능한 한 낮추는 것이 DoF를 극대화한다는 사실을 증명한다.

RCRM 문제는 두 종류의 제약을 포함한다. 첫째, 각 사용자 i에 대해 유용 신호 행렬 Si=Ui^H Hi Vi의 랭크가 di(전송 스트림 수)와 같아야 한다는 ‘랭크 제약’이다. 둘째, 모든 간섭 행렬 Iij=Ui^H Hj Vk (j≠i)의 랭크를 최소화하는 것이 목표이다. 이때 전체 목표 함수는 Σ_{i≠j} rank(Iij)이며, 이는 간섭이 차지하는 차원을 직접 최소화한다는 의미다.

하지만 랭크는 이산적이고 비볼록적인 특성을 가지므로 직접 최적화가 불가능하다. 저자들은 최근 압축 센싱·저랭크 행렬 복원 분야에서 제안된 핵심 노름(nuclear norm) 근사법을 차용한다. 핵심 노름은 행렬의 특이값 합으로, 랭크의 볼록 외피(convex envelope) 역할을 한다. 따라서 목표 함수를 Σ_{i≠j} ||Iij||_* 로 대체하고, 랭크 제약을 “Ui와 Vi가 각각 단위 행렬에 가까워야 한다”는 형태의 트레이스 제약으로 완화한다. 이 과정에서 ‘정규화된 핵심 노름’과 ‘정규화된 트레이스 제약’이 도입되어, 원래 문제와 asymptotically 동등한 볼록 최적화 문제를 얻는다.

다중셀 간섭 채널에 적용하기 위해서는 셀 간 전력 불균형과 경계 효과를 고려해야 한다. 논문에서는 각 셀마다 별도의 가중치를 부여하고, 핵심 노름에 셀별 스케일링을 적용함으로써, 셀 간 간섭을 보다 정교하게 정렬하도록 설계한다. 실험에서는 3×3, 4×4 MIMO 설정과 K=3,4 사용자 시나리오에서, 제안 알고리즘이 기존 Alternating Minimization, Leakage Minimization, Max‑SINR 방법보다 빠른 수렴과 더 높은 DoF 달성을 보였다. 특히, 간섭 차원을 완전히 0으로 만들 수 있는 경우(완전 IA)에서는 핵심 노름 최적화가 전역 최적해에 도달함을 확인했다.

이러한 접근법은 IA 문제를 ‘랭크 최소화’라는 직관적인 목표와 ‘핵심 노름’이라는 실용적인 도구로 연결함으로써, 기존 비볼록 최적화의 복잡성을 크게 낮춘다. 또한, 랭크 제약을 완화하는 방법이 asymptotically 정확함을 보였기 때문에, 큰 규모 네트워크에서도 이론적 최적성에 근접한 성능을 기대할 수 있다. 향후 연구에서는 동적 채널, 제한된 CSI, 그리고 저전력 디바이스에 대한 확장 가능성을 탐색할 여지가 있다.