최근접 이웃 교차표를 이용한 공간 분리 검정의 활용과 한계

초록

본 논문은 두 개 이상의 클래스에 대해 최근접 이웃 교차표(NNCT)를 구성하고, 이를 이용한 Pielou 검정과 Dixon 검정의 통계적 성능을 비교한다. 무작위 라벨링(RL)과 완전 무작위성(CSR) 하에서 각 검정의 적합성을 평가하고, Monte Carlo 시뮬레이션을 통해 유한표본 특성을 분석한다. 결과는 Dixon 검정이 RL·CSR 모두에 대해 일관된 수준을 유지하는 반면, Pielou 검정은 특히 CSR 독립성 가설에서 과도하게 자유(liberal)함을 보임을 보여준다. 또한, 경계 효과와 보정 방법(버퍼 구역, 토러스형)도 검토한다.

상세 분석

논문은 먼저 NNCT의 정의와 구성 방법을 명확히 제시한다. NNCT는 각 점을 기준(base)으로 가장 가까운 이웃(NN)의 클래스 빈도를 행·열에 기록한 2×2(또는 그 이상) 교차표이며, 공간적 상호작용을 정량화하는 도구로 활용된다. 기존에 널리 사용된 Pielou의 독립성 검정은 무작위 라벨링(null) 하에서 기대값을 계산하지만, 실제 데이터가 완전 매핑된 경우에는 (base, NN) 쌍이 독립이 아니므로 검정 통계량이 왜곡된다. 반면 Dixon이 제안한 셀별·클래스별·전체 검정은 각 셀의 기대값을 정확히 추정하고, 분산-공분산 구조를 고려해 χ² 근사분포를 적용한다.

논문은 두 가지 주요 가설을 다룬다. 첫째는 무작위 라벨링(RL) 가설로, 점들의 위치는 고정된 채 라벨만 무작위로 재배치되는 경우이며, 둘째는 CSR 독립성 가설로, 각 클래스가 독립적인 포아송 프로세스로 발생한다는 가정이다. 저자는 Pielou 검정이 RL에서는 부적절하지만, 특정 상황(무작위 표본 (base, NN) 쌍)에서는 사용할 수 있음을 수학적으로 증명한다. 또한, Pielou 검정의 일방향(한쪽 꼬리) 버전을 새롭게 정의하고, 이 버전 역시 RL·CSR 모두에서 과도한 제1종 오류를 보임을 확인한다.

Monte Carlo 실험에서는 다양한 점밀도, 클래스 비율, 표본 크기 조합을 설정하고, 각 검정의 실제 유의수준(empirical size)과 검정력(power)을 추정한다. 결과는 Dixon의 전체 검정과 셀별 검정이 명목 수준(α=0.05) 근처에서 안정적으로 유지되는 반면, Pielou 검정은 특히 작은 표본이나 클래스 불균형이 심한 경우 0.10 이상으로 상승한다는 점을 보여준다. 검정력 측면에서도 Dixon 검정이 일관되게 우수했으며, Pielou 검정은 특정 대안 가설(강한 분리)에서만 경쟁력을 보였다.

경계 효과에 대해서는 두 가지 보정 방법을 비교한다. 버퍼 구역 보정은 연구 영역 외부에 일정 폭의 버퍼를 두어 경계 근처의 NN 관계를 제외하는 방식이며, 토러스형 보정은 영역을 원형으로 연결해 인접성을 유지한다. 시뮬레이션 결과, 두 방법 모두 유의수준을 크게 개선하지만, 토러스형 보정이 계산 효율성과 적용 범위 면에서 더 실용적임을 제시한다.

마지막으로 실제 데이터(예: 나무 종 분포)와 인공 데이터(시뮬레이션된 CSR·분리 패턴)를 적용해 검정 결과를 시각화하고 해석한다. 실제 사례에서는 Dixon 검정이 기대한 대로 분리 현상을 검출했으며, Pielou 검정은 과도한 유의성을 보이면서 오탐(False Positive) 위험이 있음을 확인한다.

전반적으로 논문은 NNCT 기반 검정의 이론적 근거를 재정립하고, 실무에서 Dixon 검정을 우선적으로 사용해야 함을 강력히 주장한다. 또한, 경계 보정과 표본 설계에 대한 실용적인 가이드라인을 제공함으로써, 공간 통계 분석에 대한 신뢰성을 크게 향상시킨다.