Φ다이버전스를 이용한 투영 탐색 방법 확장

본 논문은 고차원 확률밀도 f를 효율적으로 추정하고 구조를 파악하기 위한 투영 탐색(Projection Pursuit) 방법을 Φ‑다이버전스를 이용해 일반화한다. 서론에서는 투영 탐색의 목표를 “데이터의 구조를 최대한 많이 포착하는 투영을 찾아 순차적으로 제거한다”는 식으로 정의하고, 허버(Huber, 1985)와 프리드먼(Friedman, 1984·1987)의 초기 연구를 언급한다. 허버는 상대 엔트로피(Kullback‑Leibler divergence)를 최소화하는 방식으로 밀도 f와 기준밀도 g(동일 평균·공분산)를 비교했으며, 반복적으로 방향벡터 aₖ와 수정된 밀도 f^{(k)}를 생성했다. 그러나 Mu Zhu(2004)는 차원보다 많은 반복이 필요할 경우 두 방법이 동일하지 않음을 지적하였다. 본 논문은 허버의 분석적·합성적 접근을 재검토하고, 이를 Φ‑다이버전스로 대체한다. Φ‑다이버전스는 ϕ가 엄격히 볼록하고 ϕ(1)=0인 함수에 의해 정의되며, Kullback‑Leibler divergence, χ²‑다이버전스, Hellinger 거리 등 다양한 특수 경우를 포함한다. 논문은 Φ‑다이버전스가 L₁ 거리보다 강한 하한을 갖는다고 가정하고, 이를 기반으로 최적화 문제를 설정한다. 알고리즘은 다음과 같이 진행된다. (1) Φ(g, f)=0 검정을 수행해 f와 g가 동일하면 종료한다. (2) 그렇지 않으면 a₁ = arg min_{a∈ℝᵈ*} Φ(g f_a g_a, f) 를 구하고, g^{(1)} = g f_{a₁} g_{a₁} 로 정의한다. (3) g^{(1)}을 새로운 기준밀도로 삼아 동일 과정을 반복한다. 각 단계에서 Φ(g^{(k)}, f)≥Φ(g^{(k+1)}, f)≥0가 성립함을 증명하고, 어느 단계 j≤d에서 Φ(g^{(j)}, f)=0이 되면 f와 g^{(j)}가 동일함을 보인다. 따라서 f는 g와 일련의 조건부 밀도들의 곱으로 정확히 분해된다. 핵심 이론적 결과는 다음과 같다. 첫째, Φ‑다이버전스 최소화가 M‑추정의 일종임을 보이며, 로버스트 통계 이론과 연결한다. 둘째, 타원형 분포(Elliptical distribution) 클래스를 g의 후보로 채택한다. 타원형 분포는 평균·공분산이 정의되면 모든 주변·조건부 분포도 타원형이라는 중요한 성질을 가지며, 가우시안, 스튜던트, 코시 등 다양한 꼬리 특성을 포괄한다. 셋째, 표본 기반 추정 단계에서는 커널 밀도 추정량 f_n, f_{a,n}을 사용하고, 서브샘플링을 통해 독립성을 유지한다. 부록에서는 Φ‑다이버전스와 L₁, L₂ 거리 사이의 관계, 그리고 최적화 과정에서의 수렴 속도를 상세히 분석한다. 통계적 적용으로는 (i) Φ‑다이버전스를 이용한 타원형 copula 적합도 검정, (ii) 가우시안 성분과 비가우시안 잔차를 분리하는 밀도 추정, (iii) 회귀 분석에서 조건부 밀도 추정에 기반한 변수 선택이 포함된다. 예시 1.1에서는 3차원 혼합 모델 f(x₁,x₂,x₃)=n(x₁,x₂)·h(x₃) 를 사용해 a₃=(0,0,1)ᵀ가 최적 벡터임을 확인한다. 예시 1.2에서는 연속 상태 마코프 체인에서 Φ(g^{(1)}, f)=0이 되면 전이 확률이 가우시안으로 동일함을 보인다. 실험 결과는 기존 상대 엔트로피 기반 방법보다 더 빠른 수렴과 높은 검정력을 보이며, 특히 Φ‑다이버전스가 L₂ norm보다 큰 경우에도 안정적인 성능을 유지한다. 마지막으로, 논문은 알고리즘의 점근적 일관성, 정상성, 그리고 Φ‑다이버전스가 0이 되는 경우의 구조적 해석을 정리한다. 전체적으로 본 연구는 투영 탐색을 Φ‑다이버전스라는 일반화된 정보량 기준으로 재구성함으로써, 고차원 데이터의 구조적 탐색과 밀도 추정에 있어 보다 유연하고 로버스트한 방법론을 제공한다.