극성동시상관계수 행렬의 양정성 조건과 한계

** 본 논문은 극성동시상관기(PCC)가 공분산 행렬을 원소별로 추정할 때 양정성(positive‑semi‑definite, PSD) 특성을 유지하는 조건을 이론적으로 규명하고, 그 한계를 명확히 제시한다. PCC는 1960년대 제안된 비모수적 상관 추정기로, 부호(sign)만을 이용해 연산 복잡도가 매우 낮고, 이상치(outlier)에 강인한 특성을 가진다. 이러한 장점 때문에 전파천문학, 저전력 무선통신, 실시간 오디오 처리 등 다양한 분야에서 활용되고 있다. 그러나 다변량 상황에서 PCC를 원소별로 적용하면 행렬 전체가 PSD가 되지 않을 가능성이 제기되었으며, 기존 문헌에서는 p > 3(실신호)에서 PSD가 보장되지 않는다고 주장했지만 구체적인 증명이나 반례가 부족했다. 논문은 먼저 실신호와 복소신호 각각에 대해 PCC와 전통적인 상관계수 사이의 정확한 변환 관계를 도출한다. 실신호의 경우, 두 변수 x, y의 상관계수 r는 r = sin(π/2 E{sgn x sgn y}) 로 표현되며, 표본 평균을 이용한 추정식은 \(\hat r = \sin\bigl(\frac{\pi}{2N}\sum_{i=1}^{N}s_{x_i}s_{y_i}\bigr)\) 로 주어진다. 복소신호에 대해서는 실부와 허부를 각각 별도로 처리해 \(\hat r_R = \sin\bigl(\frac{\pi}{4N}\sum_i(s_{x_i}^R s_{y_i}^R + s_{x_i}^I s_{y_i}^I)\bigr)\), \(\hat r_I = \sin\bigl(\frac{\pi}{4N}\sum_i(s_{x_i}^I s_{y_i}^R - s_{x_i}^R s_{y_i}^I)\bigr)\) 로 정의한다. 다음으로 차원별 PSD 보장을 분석한다. p = 2인 경우, 추정된 상관계수의 절댓값이 1 이하임을 직접 확인할 수 있어, 2×2 공분산 행렬이 언제나 PSD임을 증명한다. p = 3인 실신호에 대해서는 행렬 원소 r_12, r_13이 고정된 상황에서 r_23이 취할 수 있는 허용 구간을 부등식 \(|r_{23} - r_{12}r_{13}| \le \sqrt{(1-r_{12}^2)(1-r_{13}^2)}\) 로 제시한다. PCC가 생성하는 r̂_23는 \(\sin\bigl(\frac{\pi}{2} r_{s23}\bigr)\) 형태이며, 여기서 r_{s23}는 부호 일치 횟수 비율에 의해 결정된다. 논문은 r_{s23}가 위 부등식의 하한·상한에 정확히 대응함을 식(10)·(11)로 증명함으로써, p = 3인 경우에도 PCC 기반 추정이 항상 PSD임을 보인다. 반면 p > 3(실)·p > 2(복소)에서는 이러한 제약이 충분히 강하지 않다. 저자는 구체적인 반례를 제시한다. 예를 들어 p = 4, N = 4인 경우, 부호 시퀀스를 특정 패턴(표 1)으로 구성하면 공분산 행렬 \(\hat R_1\)의 고유값이 \(