간섭 환경에 강인한 별자리 설계와 검출

초록

본 논문은 Nakagami‑m 통계에 따르는 랜덤 진폭·위상을 갖는 강한 간섭이 존재하는 단일 캐리어 시스템에서, 기존의 가우시안 잡음 가정 기반 검출기가 초래하는 성능 저하를 극복하기 위해 ML‑G(최대우도 가우시안‑위상 근사) 검출기를 제안한다. 또한 이 검출기에 최적화된 새로운 별자리 설계 방법을 제시하여, 평균 전력 제약 하에서 심볼 오류 확률을 최소화하는 비대칭·비표준 형태의 별자리를 도출하고, 시뮬레이션을 통해 기존 방식 대비 뚜렷한 성능 향상을 입증한다.

상세 분석

이 연구는 무선 시스템이 공유 스펙트럼 환경에서 겪는 비정상적인 간섭을 정량적으로 모델링하는 데 초점을 맞춘다. 간섭은 Nakagami‑m 페이즈‑앰플리튜드 모델을 사용해 진폭 A와 위상 Θ가 각각 Nakagami‑m 분포를 따르도록 설정했으며, 이는 실제 다중 경로와 그림자 효과를 동시에 반영한다. 기존의 AWGN 가정은 이러한 비등방성(비대칭) 잡음을 isotropic하게 취급해 검출 경계가 원형(또는 원형에 가까운) 형태가 되도록 만든다. 그러나 실제 간섭은 특정 방향으로 편향된 위상 분포와 변동성이 큰 진폭을 가지므로, 유클리드 거리 기반 검출은 심볼 간 간격을 제대로 반영하지 못한다.

논문은 먼저 조건부 확률밀도함수 f(y|x) 를 A와 Θ에 대해 적분함으로써 정확한 최대우도식을 도출한다. 위상 분포는 복잡한 형태이므로, Gaussian moment‑matching 기법을 적용해 평균 π, 분산 σ²_Θ 로 근사한다. 이 근사는 적절히 증명되었으며, 실제 위상 분포와의 KL‑divergence가 낮아 실용성을 확보한다. 근사된 위상 모델을 이용하면, 적분 결과가 무한 급수 형태인 S(r,ϕ) 로 정리된다. 여기서 r=|y−√S x|, ϕ=arg(y−√S x)이며, 급수 항은 w_k(ϕ)·I_{k,m}(r) 로 구성된다. w_k(ϕ)는 ϕ에 대한 코사인 조화항이며, k가 커질수록 exp(−k²/(2σ²_Θ)) 로 급격히 감소한다. 따라서 몇 개의 항만 취해도 충분히 정확한 근사가 가능함을 정리 2·3을 통해 보였다.

ML‑G 검출 규칙은 “arg min_x { r² − ln S(r,ϕ) }” 로, 기존의 r² (즉, Euclidean 거리) 에 로그‑우도 보정 term을 추가한다. 이 보정 term은 간섭의 통계적 특성을 반영해 결정 경계를 비대칭적으로 변형시킨다. 예를 들어, 위상이 특정 방향으로 편향될 경우, 해당 방향에 위치한 심볼은 더 넓은 영역을 차지하게 되며, 반대 방향은 좁아진다. 이는 시뮬레이션 결과에서도 확인되며, 결정 영역이 타원형 혹은 복합적인 형태로 변한다.

별자리 설계 측면에서는, 위 검출기에 최적화된 심볼 위치를 찾는 비선형 최적화 문제를 정의한다. 목적함수는 평균 SEP(심볼 오류 확률)이며, 제약조건은 평균 전력 1로 정규화한다. 문제는 비볼록이므로, 전역 탐색(예: 유전 알고리즘)과 지역 정교화(예: BFGS)를 결합한 하이브리드 방식을 채택했다. 결과적으로, 간섭 강도가 커질수록 별자리는 원형 대칭을 깨고, 특정 방향으로 늘어나거나 압축되는 비대칭 형태를 띤다. 이는 검출기의 비등방성 특성을 활용해 심볼 간 거리를 효과적으로 조정한 결과이다.

시뮬레이션에서는 SNR 020 dB, INR 030 dB 구간에서 기존 Euclidean 거리 검출, 최적화된 QAM, 그리고 ML‑G 기반 별자리의 SEP를 비교했다. 특히 INR이 SNR과 동등하거나 더 클 때, ML‑G+맞춤 별자리는 최대 6 dB 수준의 SNR 이득을 보였으며, 기존 방법은 급격히 성능이 저하되는 반면, 제안 방식은 완만한 감소를 나타냈다. 또한 복잡도 분석에서는 급수 항 K를 5~7 정도로 제한해도 ε=10⁻³ 이하의 근사 오차를 만족하므로, 실시간 구현이 가능함을 강조한다.

전반적으로, 이 논문은 (1) 실제 간섭 통계 모델을 검출기에 직접 반영한 새로운 ML‑G 검출기, (2) 그 검출기에 맞춘 비대칭 별자리 설계 프레임워크, (3) 복잡도-성능 트레이드오프를 정량화한 실용적 구현 방안을 제시함으로써, 강간섭 환경에서의 물리계층 설계에 중요한 기여를 한다.