고차 QAM을 위한 세 가지 반정밀도 완화 검출기의 동등성 분석

초록

본 논문은 고차 QAM MIMO 검출에 적용된 세 가지 반정밀도 완화(SDR) 기법—PI‑SDR, BC‑SDR, VA‑SDR—이 수학적으로 동일함을 증명한다. 변수 치환과 제약식 변형을 통해 각각의 최적화 문제가 동일한 볼록 집합을 정의함을 보이며, 이를 통해 어느 한 방법을 풀면 다른 두 방법도 동일한 해를 얻는다. 실험 결과는 이론적 동등성을 확인한다.

상세 분석

MIMO 시스템에서 최적 검출은 NP‑hard 문제이지만, 반정밀도 완화(SDR)는 원래의 이산 최적화 문제를 반정밀도(semidefinite) 형태의 볼록 문제로 변환함으로써 실용적인 성능‑복잡도 균형을 제공한다. 초기 연구는 BPSK·QPSK와 같은 2‑차원 별도 심볼에 초점을 맞추었으며, 이 경우 SDR이 거의 최적에 근접하는 결과를 보였다. 고차 QAM(예: 16‑QAM, 64‑QAM)에서는 심볼이 다중 레벨을 갖기 때문에 기존 SDR을 그대로 적용하면 제약식이 과도하게 느슨해져 성능 저하가 발생한다. 이를 해결하고자 세 가지 독립적인 접근법이 제안되었다.

첫 번째인 PI‑SDR(Polynomial‑Inspired SDR)은 심볼을 다항식 형태로 모델링하고, 각 차수에 대한 제곱 제약을 추가함으로써 원래의 정수 제약을 근사한다. 두 번째인 BC‑SDR(Bound‑Constrained SDR)은 각 실수·허수 성분에 대해 상하한을 직접 부여하고, 이를 반정밀도 변수와 선형 제약으로 연결한다. 세 번째인 VA‑SDR(Virtually‑Antipodal SDR)은 고차 QAM을 가상적인 안티포달(antipodal) 심볼 집합으로 분해하고, 각 가상 심볼에 대해 기존 2‑차원 SDR을 적용한다.

논문은 이 세 모델이 실제로는 동일한 볼록 다면체(convex polytope)를 정의한다는 점을 증명한다. 구체적으로, PI‑SDR의 다항식 제약은 BC‑SDR의 상하한 제약과 일대일 대응 관계가 있음을 보이고, BC‑SDR의 구간 제한은 VA‑SDR이 가상 안티포달 심볼에 부여하는 이진 제약과 동일한 반정밀도 행렬 집합을 만든다. 수학적으로는 각 모델의 라그랑주 이중 문제와 KKT 조건을 전개하여, 최적해가 동일한 라그랑주 승수와 원시 변수 조합을 갖는다는 것을 확인한다. 따라서 어느 한 모델을 풀면 다른 두 모델의 최적값과 최적해가 자동으로 도출된다.

이 동등성은 실용적인 의미가 크다. 첫째, 연구자와 엔지니어는 구현 복잡도와 수치 안정성을 기준으로 가장 적합한 모델을 자유롭게 선택할 수 있다. 둘째, 기존에 BC‑SDR에 특화된 고속 전용 솔버가 있다면, 이를 그대로 PI‑SDR나 VA‑SDR에도 적용할 수 있어 개발 비용이 절감된다. 셋째, 동등성 증명 과정에서 도출된 공통 볼록 집합은 다른 고차 변조(예: APSK, 256‑QAM)에도 일반화될 가능성을 시사한다. 마지막으로, 시뮬레이션 결과는 동일한 BER 곡선을 보이며, 복잡도 측면에서는 BC‑SDR가 가장 작은 변수 수와 제약식 수를 갖는 반면, VA‑SDR는 구현이 직관적이라는 장점을 가진다.