OTFS 수신기 위한 플러그인‑앤‑플레이 딥러닝 프레임워크

초록

본 논문은 고속 이동성 환경에서 OTFS 변조 방식을 위한 채널 추정과 심볼 검출을 동시에 수행할 수 있는 비지도 딥러닝 기반 플러그인‑앤‑플레이(PnP) 프레임워크를 제안한다. 경량형 인코더‑디코더 네트워크를 채널 사전으로 활용해 다양한 스파시티 수준에 강인한 채널 추정을 구현하고, 시간 영역 행렬 역연산과 작은 MLP를 결합한 검출기(PnP‑SD)를 통해 낮은 복잡도와 변조 형식에 대한 유연성을 확보한다. 시뮬레이션 결과, 제안 방법은 기존 고정 스파시티 기반 알고리즘 및 순수 데이터‑드리븐 모델에 비해 추정 정확도와 검출 성능 모두에서 우수함을 입증한다.

상세 분석

OTFS는 지연‑도플러(DD) 도메인에서 채널이 거의 정적이고 희소(sparse)하다는 특성을 이용해 고속 이동성에서도 신뢰성 높은 통신을 가능하게 한다. 그러나 실제 채널은 정수 도플러뿐 아니라 소수점 도플러(프랙셔널 도플러) 효과에 의해 스파시티가 감소하고, 이로 인해 기존의 LS, LMMSE와 같은 선형 추정기나 고정 스파시티 가정을 이용한 OMP, SBL 등은 성능 저하를 겪는다. 또한, 메시지‑패싱(MPA) 기반 검출기도 스파시티가 약해지면 복잡도가 급증하고, 채널 추정 오차에 민감해진다. 이러한 문제를 해결하기 위해 논문은 두 가지 핵심 아이디어를 제시한다. 첫째, 채널 추정 문제를 “데이터 일관성(관측 모델) + 학습 기반 사전(denoiser)” 형태의 변수 분할(variable splitting)으로 재구성하고, 사전 역할을 수행하는 경량 인코더‑디코더 네트워크(EDN)를 비지도 방식으로 학습한다. EDN은 다양한 스파시티와 프랙셔널 도플러 상황을 포함한 훈련 데이터에 노이즈 레벨을 변형시켜 제공함으로써, 채널의 누수(leakage)와 스파시티 변동성을 내재적으로 학습한다. 결과적으로 PnP‑CE는 고정 스파시티 가정이 필요 없으며, 새로운 채널 환경에서도 재학습 없이 바로 적용 가능하다. 둘째, 심볼 검출을 위해 시간 영역에서 블록 대각 구조를 이용한 효율적인 행렬 역연산을 수행한 뒤, 컨스텔레이션 정보를 사전으로 갖는 작은 MLP를 denoiser로 삽입한다. 이 MLP는 각 변조 방식(QPSK, 16QAM 등)에 대해 사전 학습되지만, 네트워크 규모가 작아 실시간 적용이 가능하고, 채널 추정 오차에 대한 강인성을 제공한다. 플러그인‑앤‑플레이 구조는 모델 기반 연산과 데이터‑드리븐 사전을 명확히 분리함으로써, 물리적 일관성을 유지하면서도 사전만 교체하면 새로운 시나리오에 빠르게 적응할 수 있다. 복잡도 측면에서는 전통적인 OMP‑기반 검출기 대비 O(N M) 수준의 행렬 연산과 몇 층의 MLP 연산만 필요해, 실시간 구현이 현실적이다. 이론적으로는 PnP 프레임워크의 수렴 조건과 안정성을 기존 이미지 복원 연구와 유사하게 보장할 수 있음을 언급한다. 실험에서는 정수·프랙셔널 도플러, 다양한 SNR, 다중 경로 수에 대해 제안 방법이 기존 LS, LMMSE, SBL, ViterbiNet 등에 비해 평균 제곱 오차(MSE)와 비트 오류율(BER) 모두에서 2~5 dB 정도의 이득을 보이며, 특히 스파시티가 감소하는 경우에도 성능 저하가 미미함을 확인한다. 전체적으로 이 논문은 OTFS 수신기의 두 핵심 과제인 채널 추정과 심볼 검출을 하나의 통합 최적화 프레임워크 안에 끌어들여, 기존 방법들의 한계를 효과적으로 극복하고, 실용적인 구현 가능성을 높인 점이 가장 큰 공헌이라 할 수 있다.