비정규분포 기반 고차원 그래프 추정 비정규정규 모델

초록

본 논문은 고차원 실수형 데이터에서 희소 무방향 그래프를 추정할 때 전통적으로 가정되는 정규성을 완화한다. 변수별 단일 차원 스무스 변환을 적용한 반정규분포(Nonparanormal) 모델을 제안하고, 이를 이용해 Gaussian copula 기반 그래프 구조를 추정하는 절차를 개발한다. 변환 함수는 순위 기반 추정기로 얻으며, 이후 변환된 데이터에 그래프 라쏘(Graphical Lasso)를 적용한다. 이론적으로는 변환 추정 오차와 그래프 추정 오차에 대한 수렴 속도를 제시하고, 실험을 통해 기존 정규성 가정 방법보다 높은 정확도와 강인성을 입증한다.

상세 분석

비정규분포(Nonparanormal) 모델은 다변량 정규분포의 Gaussian copula 구조를 유지하면서 각 마진을 단조 증가 함수 f_j를 통해 변환한다는 점에서 기존 정규성 가정의 한계를 극복한다. 논문은 먼저 관측된 변수 X_j를 누적분포함수(F_j)와 역정규분포함수(Φ^{-1})를 결합한 변환 g_j(x)=Φ^{-1}(F̂_j(x)) 로 정의하고, 이 변환이 실제 f_j와 거의 일치하도록 순위 기반 추정기 F̂_j를 사용한다. 변환 후 데이터 Z_j=g_j(X_j)는 근사적으로 다변량 정규를 따른다고 가정하고, 따라서 정밀한 공분산 행렬 Σ̂를 그래프 라쏘(Graphical Lasso)로 추정한다. 이 과정에서 두 가지 주요 이론적 결과가 도출된다. 첫째, 변환 함수 추정 오차가 O_p(√(log d / n)) 수준으로 수렴함을 보이며, 여기서 d는 변수 차원, n은 샘플 수이다. 둘째, 변환 오차가 공분산 추정에 미치는 영향을 제어함으로써 최종 그래프 구조 추정의 일관성을 확보한다. 특히, 희소성 가정 하에 정규성 기반 방법이 요구하는 강한 tail 조건을 완화하고, sub‑Gaussian 혹은 bounded‑variation 마진을 가진 데이터에도 적용 가능하게 만든다. 실험에서는 합성 데이터와 유전발현 데이터에 대해 정규성 가정 방법(Glasso, CLIME)과 비교했을 때, 비정규 모델은 F1‑score와 구조적 Hamming distance에서 현저히 우수한 결과를 보였다. 또한, 변환 단계에서 사용된 순위 기반 추정은 계산량이 O(n log n)으로 효율적이며, 고차원 상황에서도 메모리 사용량이 크게 증가하지 않는다. 이러한 장점은 실제 빅데이터 분석에서 정규성 검정에 소요되는 비용을 절감하고, 모델링 유연성을 크게 향상시킨다.