인지무선시스템 잡음 억제 진화 알고리즘 성능 비교

초록

본 논문은 인지무선통신에서 잡음 억제를 위해 전통적인 LMS 필터와 두 가지 전역 탐색 기반 진화 알고리즘인 유전 알고리즘(GA)과 입자 군집 최적화(PSO)를 비교한다. 시뮬레이션은 백색 가우시안 잡음(AWGN)과 비선형 랜덤 잡음을 포함한 환경에서 수행했으며, 비트 오류율(BER)과 평균 제곱 오차(MSE)를 성능 지표로 사용한다. 결과는 GA와 PSO가 AWGN 상황에서 LMS보다 우수하고, 비선형 잡음에서는 PSO가 가장 높은 성능을 보임을 보여준다.

상세 분석

이 연구는 인지무선(Cognitive Radio, CR) 시스템이 요구하는 동적 스펙트럼 접근성을 지원하기 위해, 고정형 필터가 아닌 적응형 잡음 억제 기법이 필요하다는 전제에서 출발한다. 기존 LMS(LMS)와 그 변형들은 선형 잡음에 대해서는 수렴 속도가 빠르고 구현이 간단하지만, 비선형성이나 다중극점 잡음이 존재할 경우 지역 최적점에 머무를 위험이 있다. 이를 보완하고자 저자들은 전역 최적화를 목표로 하는 두 가지 메타휴리스틱, 즉 유전 알고리즘(GA)과 입자 군집 최적화(PSO)를 적용하였다.

GA는 염색체(해답 후보)를 교차·돌연변이 연산을 통해 진화시키며, 탐색 공간을 넓게 커버한다. 특히 잡음 모델이 복잡하고 비선형성이 강할 때, 다양한 해답을 동시에 평가함으로써 전역 최적점에 도달할 확률이 높다. 반면 PSO는 입자들이 현재 최적 위치와 전체 최적 위치를 공유하며 속도를 조정해 탐색한다. 입자 간 정보 교환이 빠르고 파라미터 튜닝이 비교적 단순해 실시간 시스템에 적합하다.

시뮬레이션 설정은 다음과 같다. 송신 신호는 QPSK 변조를 사용하고, 채널은 AWGN 및 비선형 랜덤 잡음(예: 제곱근 비선형 함수에 잡음 추가) 두 가지 경우로 나뉜다. LMS는 고정 스텝 사이즈(μ)와 변형된 NLMS를 비교 대상으로 삼았으며, GA는 인구 크기 50, 교차 확률 0.8, 돌연변이 확률 0.05, 최대 세대 200으로 설정했다. PSO는 입자 수 30, 관성 가중치 0.7, 인지·사회 계수 각각 1.5로 구성하였다. 성능 평가는 수천 번의 독립 실행 평균 BER과 MSE를 사용했다.

결과는 세 가지 주요 포인트로 요약된다. 첫째, AWGN 환경에서는 GA와 PSO 모두 LMS보다 낮은 BER과 MSE를 기록했으며, 특히 GA는 초기 수렴이 다소 느리지만 최종 최적값에서 가장 낮은 오류를 보였다. 둘째, 비선형 잡음 상황에서는 PSO가 가장 뛰어난 성능을 나타냈다. PSO는 입자 간 협업을 통해 비선형 특성을 빠르게 파악하고, LMS는 여전히 선형 가정에 머물러 큰 오차를 보였다. 셋째, 계산 복잡도 측면에서 LMS는 가장 가벼운 반면, GA와 PSO는 각각 10배, 6배 정도의 연산량을 요구했지만, 현대 DSP 혹은 FPGA 기반 가속기를 이용하면 실시간 적용이 가능하다는 점을 저자들은 강조한다.

이러한 분석을 통해 본 논문은 인지무선 시스템에서 잡음 억제 알고리즘을 선택할 때, 잡음 특성(선형·비선형)과 시스템 자원(연산 능력·전력)을 종합적으로 고려해야 함을 시사한다. 특히 비선형 잡음이 지배적인 환경에서는 PSO 기반 적응 필터가 실용적인 대안이 될 수 있다.