FDD LTE·5G 직접 변환 수신기에서 IMD2 간섭 제거를 위한 강인 비선형 RLS 적응 필터

본 논문은 주파수 분할 복제(FDD) 방식의 LTE·5G 트랜시버에서 발생하는 송신 누설(TxL) 신호와 수신 믹서의 2차 비선형성에 의해 생성되는 베이스밴드(IMD2) 왜곡을 디지털 영역에서 실시간으로 취소하기 위한 새로운 적응 필터 구조와 알고리즘을 제시한다. 1. **문제 정의 및 동기** - 듀플렉서의 제한된 정지대역 차단(50~55 dB)으로 인해 TxL 신호가 수신 경로에 침투하고, Rx 믹서의 RF‑LO 단자 결합에 의해 IMD2가 발생한다. - 직접 변환(Zero‑IF) 수신기에서는 IMD2가 DC와 두 배 대역폭을 가진 스펙트럼을 형성해, 특히 DC‑취소 회로와 채널‑셀렉트 필터(CSF) 이후에도 남은 IMD2가 수신 SNR을 크게 저하시킨다. - 기존 연구는 LMS 기반 적응 필터를 사용했으나, 수렴 속도와 정밀도에서 한계가 있었으며, 고상관 입력(다중 클러스터 전송)에서는 행렬 특이성 문제도 발생한다. 2. **시스템 및 IMD2 모델링** - 송신 복합 베이스밴드 신호 \(x_{BB}(t)\)는 PA를 거쳐 RF 신호로 변환되고, 듀플렉서 임펄스 응답 \(h_{TxL,BB}(t)\)을 통해 Rx 로 누설된다. - LNA 증폭 후 믹서에서 1차 선형 이득 \(\alpha_1\)와 2차 비선형 이득 \(\alpha_2\)가 적용되며, IMD2는 \(\alpha_2 (x_{BB} * h_{TxL,BB})^2\) 형태로 나타난다. - 디지털 베이스밴드에서는 DC‑노치와 CSF를 결합한 임펄스 응답 \(\bar h_s