복소 커널 LMS와 Wirtinger 미분의 확장

초록

본 논문은 복소수 신호에 대한 적응형 필터링을 위해 실수 및 복소 재현 커널 힐베르트 공간(RKHS)을 활용하는 일반적인 프레임워크를 제시한다. 실수 RKHS의 복소화 기법과 복소 가우시안 커널을 이용해 복소 RKHS를 구성하고, Wirtinger 미분을 확장하여 복소 RKHS 상의 기울기를 계산한다. 이를 기반으로 여러 형태의 복소 커널 최소 평균 제곱(CKLMS) 알고리즘을 도출하고, 실험을 통해 기존 선형 및 비선형 방법보다 우수한 성능을 입증한다.

상세 분석

이 연구는 세 가지 핵심 기술을 결합함으로써 복소 신호 처리 분야에 새로운 전기를 마련한다. 첫째, 실수 재현 커널 힐베르트 공간(RKHS)을 복소화(complexification)하는 방법을 제시한다. 이는 기존에 풍부한 이론적 기반과 구현 경험을 가진 실수 커널을 그대로 활용하면서도 복소 입력을 자연스럽게 다룰 수 있게 한다는 장점이 있다. 복소화 과정에서 실수 RKHS의 원소 ϕ(x)를 실수와 허수 부분으로 분리하고, 이를 복소 선형 결합으로 확장함으로써 복소 RKHS ℋ𝕔를 정의한다.

둘째, 복소 전용 커널, 특히 복소 가우시안 커널 K𝕔(z,z′)=exp(−‖z−z′‖²/σ²) 를 도입한다. 복소 가우시안 커널은 복소 거리 개념을 그대로 적용하면서도 실수 가우시안 커널과 동일한 양의 정의성을 유지한다. 따라서 복소 데이터의 비선형 구조를 효과적으로 포착할 수 있다. 논문은 실수와 복소 커널을 모두 사용한 두 가지 경로를 제시함으로써, 연구자가 문제 특성에 맞는 커널을 자유롭게 선택하도록 한다.

셋째, Wirtinger 미분법을 복소 RKHS에 일반화한다. 기존 Wirtinger 미분은 복소 변수와 그 복소 공액을 독립 변수로 취급해 실수 미분과 유사한 형태의 체인 룰을 제공한다. 그러나 복소 RKHS에서는 함수가 무한 차원 공간의 원소에 의존하므로, 미분 연산자를 정의하는 데 추가적인 추상이 필요하다. 저자는 ℋ𝕔의 내적 구조와 재현성(property)을 이용해, 임의의 함수 J(f) 에 대해 ∂J/∂f와 ∂J/∂f* 를 명시적으로 구하는 공식들을 도출한다. 이 과정에서 복소화된 실수 RKHS와 복소 커널 각각에 대해 동일한 미분 규칙이 적용됨을 증명한다.

이러한 이론적 토대를 바탕으로, 논문은 CKLMS 알고리즘을 세 가지 형태로 구현한다. (1) 실수 커널 복소화 기반 CKLMS, (2) 복소 가우시안 커널 기반 CKLMS, (3) 복소화와 복소 커널을 혼합한 하이브리드 버전. 각 알고리즘은 입력 벡터를 RKHS에 매핑한 뒤, Wirtinger 미분을 이용해 오차 e(n)=d(n)−y(n) 에 대한 기울기를 계산하고, 학습률 μ 를 곱해 사전 정의된 사전 사전(딕셔너리) 원소를 업데이트한다. 특히 사전 관리 전략으로는 선형 독립성 검사와 코히런스 기준을 적용해 메모리 사용을 제한한다.

실험에서는 복소 비선형 채널 식별, 위상 변조 신호 복원, 그리고 복소 파워 시스템 예측 등 네 가지 시나리오를 설정하였다. 결과는 CKLMS가 동일한 학습률 하에서 실수 기반 LMS와 복소 선형 LMS보다 수십 배 빠른 수렴 속도와 낮은 정규화 평균 제곱 오차(NMSE)를 보였으며, 특히 복소 가우시안 커널을 사용한 버전이 가장 높은 비선형 모델링 능력을 발휘했다. 또한 사전 크기를 제한했음에도 불구하고 성능 저하가 미미해 실시간 적용 가능성을 입증하였다.

결론적으로, 이 논문은 (i) 복소 RKHS의 체계적 구축 방법, (ii) Wirtinger 미분의 무한 차원 확장, (iii) 복소 커널 기반 적응 필터 설계라는 세 축을 성공적으로 연결함으로써, 복소 신호 처리와 커널 머신 러닝 사이의 격차를 메우는 중요한 이정표를 제공한다. 향후 연구는 사전 최적화, 다중 커널 결합, 그리고 딥 커널 네트워크와의 통합을 통해 더욱 복잡한 통신·레이다·이미징 시스템에 적용할 수 있을 것으로 기대된다.