강건한 유사도 기반 상관 추정기와 그 금융 응용

초록

본 논문은 두 변수의 방향과 크기를 동시에 고려한 유사도 변수 r을 정의하고, 이를 Fisher 변환한 ϕ_r을 이용해 선형 상관계수 ρ의 강건한 추정량을 제시한다. 타원형 분포와 동질 분산 가정 하에 ϕ_r은 ρ의 Fisher 변환과 일치하며, 정확한 샘플링 분포를 통해 소표본에서도 신뢰구간을 안정적으로 구성할 수 있다. 다변량 확장과 고주파 금융 데이터에의 적용, 그리고 새로운 다변량 GARCH 모델 설계까지 실증적·이론적 결과를 제시한다.

상세 분석

논문은 먼저 두 실수형 랜덤 변수 x₁, x₂에 대해 r = 2 x₁ x₂ / (x₁² + x₂²) 라는 ‘유사도 변수’를 도입한다. 이는 Thorndike(1905)의 ‘resemblance’ 개념을 현대적으로 재해석한 것으로, r는 –1≤r≤1의 구간에 머물며 x₁과 x₂가 같은 부호와 비슷한 크기를 가질 때 값이 1에 가깝고, 부호가 반대이면 –1에 가깝다. r는 극좌표에서 r = sin 2θ 로 표현되므로 벡터의 길이 s는 영향을 미치지 않아 극단적인 크기의 관측치(아웃라이어)에 대해 내재적인 강건성을 가진다.

이후 Fisher 변환 ϕ_r = ½ log