주성분 헤시안 방향 분석의 민감도와 영향 관측자 탐지

초록

본 논문은 차원 축소 기법인 주성분 헤시안 방향(pHd) 방법의 두 변형에 대해 영향함수(influence function)를 이용해 민감도를 비교한다. 작은 데이터 변동이 차원 축소 하위공간 추정에 미치는 영향을 정량화하고, 전통적인 이상치와 실제 영향력 있는 관측치가 반드시 일치하지 않을 수 있음을 보인다. 또한 경험적 영향함수를 활용해 실무에서 영향력 있는 관측치를 효율적으로 탐지하는 절차를 제시한다.

상세 분석

pHd는 회귀 모델에서 반응 변수 Y와 설명 변수 X 사이의 비선형 관계를 저차원 선형 구조로 요약하기 위해 고안된 차원 축소 기법이다. 기존 pHd는 X의 공분산 행렬 Σ_X와 Y의 조건부 평균의 헤시안 행렬 H를 이용해 Σ_X H Σ_X의 고유벡터를 추정한다. 최근에는 X를 표준화한 뒤 동일한 절차를 적용하는 변형(pHd‑std)이 제안되었으며, 두 방법은 이론적으로 동일한 차원 축소 하위공간을 목표로 하지만 실제 데이터에서는 추정 과정이 다르게 작동한다.

논문은 먼저 두 변형에 대한 영향함수를 수학적으로 도출한다. 영향함수는 관측치 (z) = (x, y)가 전체 추정량 θ̂에 미치는 1차 미분 효과를 나타내며, θ̂가 함수 T(F) = E_F