다중 투영을 이용한 확률 기반 MIMO 최적 디코딩 알고리즘

초록

본 논문은 정수값으로 제한된 파라미터를 추정하는 정수 최소제곱(ILS) 문제를 해결하기 위해, 두 차원 투영을 다중으로 활용하는 새로운 알고리즘인 Tomographic Least Squares Decoder(TLSD)를 제안한다. TLSD는 복잡도는 낮추면서도 최적 해에 근접한 성능을 보이며, 각 원소에 대한 사후 확률 분포를 제공한다. 기존의 Belief Propagation이나 Sphere Decoding과 달리 수렴이 보장되고, 시뮬레이션을 통해 다른 준최적 기법 대비 우수함을 입증한다.

상세 분석

TLSD는 MIMO 시스템에서 전송된 신호 벡터 x 가 정수 격자(예: QAM 심볼) 위에 놓인다는 가정 하에, 관측 벡터 y = Hx + n (여기서 H는 채널 행렬, n은 가우시안 잡음) 의 ILS 문제를 풀고자 한다. 전통적인 완전 탐색인 Sphere Decoding은 평균 복잡도가 지수적으로 증가해 실시간 구현에 한계가 있다. 반면, TLSD는 전체 N‑차원 x 벡터를 여러 개의 2‑차원 투영 (예: (i,j) 쌍에 대한 좌표) 으로 분해하고, 각 투영에서 2‑차원 정수 최소제곱을 수행한다. 투영 선택은 H의 구조와 상관관계를 최소화하도록 설계되어, 각 투영이 독립적인 정보원을 제공한다.

각 2‑차원 투영에 대해, TLSD는 작은 규모의 LS 문제를 풀어 가능한 정수 쌍을 열거하고, 그에 대한 가중치를 잡음 분산에 기반한 확률(가우시안 likelihood)로 계산한다. 이렇게 얻은 로컬 확률들을 베이즈 규칙에 따라 결합해 전역 사후 확률 P(x_k|y) 을 추정한다. 중요한 점은, 로컬 확률이 서로 독립이라고 가정하지 않고, 반복적인 “재구성‑재평가” 과정을 통해 상호 의존성을 점진적으로 반영한다는 것이다.

알고리즘 흐름은 크게 네 단계로 나뉜다. (1) 투영 집합 Π 생성: H의 열 벡터 쌍을 선택해 투영 행렬 P_{ij} 구성. (2) 각 투영에 대해 2‑차원 ILS 해결: 가능한 정수 쌍을 제한된 탐색 범위 내에서 완전 탐색하고, 비용 함수 ‖P_{ij}y − P_{ij}Hx‖² 에 기반해 가중치 부여. (3) 사후 확률 업데이트: 모든 투영에서 얻은 가중치를 종합해 각 원소 x_k 의 확률 분포를 계산. (4) 수렴 검사 및 반복: 확률 분포가 충분히 안정될 때까지 2‑4단계를 반복한다.

수렴 보장은 각 반복에서 전체 비용 함수 ‖y − Hx‖² 의 기대값이 비감소(또는 비증가)함을 증명함으로써 얻는다. 이는 EM(Expectation‑Maximization) 알고리즘과 유사한 원리이며, 최악의 경우에도 비용이 발산하지 않음이 보장된다.

복잡도 측면에서, 각 투영당 탐색 공간은 O(M²) (M은 1‑차원 정수 심볼 수) 로 제한되며, 투영 수는 O(N²) 대신 O(N) 수준으로 설계 가능하다. 따라서 전체 연산량은 O(N·M²) 정도로, 고차원 MIMO에서도 실시간 구현이 가능하다. 또한, 사후 확률을 직접 제공하므로, 후속 오류 정정 코딩이나 적응형 변조와 같은 시스템 레이어와 자연스럽게 연동될 수 있다.

시뮬레이션 결과는 16‑QAM, 64‑QAM 등 다양한 변조 방식과 4×4, 8×8 MIMO 채널에서 수행되었으며, TLSD는 기존의 Lattice‑Reduction‑Aided (LRA) ZF/MMSE, 그리고 Belief Propagation 기반 디코더 대비 1‑2 dB 수준의 BER 향상을 보였다. 특히, 높은 SNR 구간에서 TLSD는 거의 최적에 근접한 성능을 유지하면서도 평균 실행 시간이 기존 Sphere Decoding의 10배 이상 빠른 것으로 나타났다.

요약하면, TLSD는 “투영 기반 토모그래피”라는 새로운 시각으로 ILS 문제에 접근함으로써, 복잡도와 성능 사이의 트레이드오프를 크게 개선하고, 확률 정보를 제공한다는 부가 가치를 갖는다. 이는 차세대 대규모 MIMO, Massive MIMO, 그리고 무선 센서 네트워크 등에서 실시간 고신뢰 디코딩을 구현하는 데 유용한 도구가 될 것이다.