복소 가우시안 커널 LMS 알고리즘

초록

본 논문은 복소 가우시안 커널을 이용한 복소 커널 LMS(CKLMS) 알고리즘을 제안한다. Wirtinger 미분법을 복소 재생 커널 힐베르트 공간(RKHS)에 확장하여 필요한 그래디언트를 도출하고, 이를 기반으로 CKLMS를 설계한다. 실험 결과, 비선형성을 포함한 신호에 대해 기존 복소 LMS 및 Widely Linear LMS보다 뛰어난 수렴 속도와 최소 평균 제곱 오차(MSE)를 달성한다.

상세 분석

본 연구는 복소 신호 처리 분야에서 아직 충분히 탐구되지 않은 복소 재생 커널 힐베르트 공간(RKHS)의 활용 가능성을 제시한다. 핵심 아이디어는 복소 가우시안 커널 (k(\mathbf{z},\mathbf{w})=\exp{-|\mathbf{z}-\mathbf{w}|^{2}/(2\sigma^{2})})을 정의하고, 이를 통해 입력 데이터를 무한 차원의 복소 RKHS로 매핑함으로써 비선형 관계를 선형적으로 다룰 수 있게 하는 것이다. 그러나 복소 RKHS에서는 실수와 허수 성분이 얽혀 있어 전통적인 미분법으로는 손쉽게 그래디언트를 구할 수 없으며, 이는 LMS 계열 알고리즘의 핵심인 오차에 대한 기울기 계산을 방해한다.

이를 해결하기 위해 저자들은 Wirtinger 미분법을 도입한다. Wirtinger 미분은 복소 변수 (z)와 그 복소 공액 (\bar{z})를 독립 변수처럼 취급하여 (\frac{\partial f}{\partial z})와 (\frac{\partial f}{\partial \bar{z}})를 동시에 정의한다. 이 접근법은 복소 함수의 실수 미분과 동일한 형태의 체인 룰을 제공하므로, 복소 RKHS 내에서의 비용 함수(예: 평균 제곱 오차) 미분을 간결하게 전개할 수 있다. 논문은 기존 Wirtinger calculus를 복소 RKHS에 맞게 일반화하는 수학적 증명을 제시하고, 특히 커널 함수가 복소 공액에 대해 대칭성을 갖는 경우 그래디언트가 어떻게 단순화되는지를 상세히 설명한다.

CKLMS 알고리즘 자체는 전통적인 LMS 업데이트 식 (\mathbf{w}{n+1}=\mathbf{w}{n}+\mu e_{n}\mathbf{x}_{n})를 커널화한 형태로, 가중치 (\mathbf{w})를 직접 다루는 대신 커널 사전(딕셔너리)와 계수 벡터 (\boldsymbol{\alpha})를 유지한다. 업데이트 식은
\