근접 이웃 교차표를 이용한 전체·쌍별 군집·분리 검정의 새로운 접근

초록

본 논문은 두 개 이상의 클래스(종) 사이의 공간적 상호작용을 근접 이웃 교차표(NNCT)로 분석한다. 기존 Dixon 검정과 비교해 전체 검정과 셀별(쌍별) 검정의 새로운 형태를 제안하고, 무작위 라벨링(RL)·완전 무작위(CSR) 하에서의 귀무분포를 이론적으로 탐구한다. 광범위한 몬테카를로 시뮬레이션을 통해 제안 검정이 Type I 오류 제어와 검정력에서 우수함을 확인하고, 실제 데이터 두 사례에 적용해 실용성을 보여준다.

상세 분석

이 연구는 공간점 패턴 분석에서 가장 작은 스케일인 평균 근접 이웃 거리 수준에서 클래스 간 상호작용을 정량화하려는 목적을 갖는다. 기존에 널리 사용되어 온 Dixon의 전체·셀별 검정은 NNCT의 행·열 합계가 고정된 경우에만 정확한 근사 분포를 제공한다는 한계가 있다. 저자들은 이러한 제약을 완화하기 위해, NNCT의 기대값과 분산을 무작위 라벨링(RL)과 CSR 독립(CSR independence) 두 경우에 대해 일반화된 형태로 재유도한다. 특히, 전체 검정 통계량을 χ² 형태가 아닌, 각 셀의 관측값과 기대값 차이를 가중합한 새로운 통계량으로 정의함으로써, 셀 간 상관성을 자연스럽게 반영한다. 셀별 검정은 기존 Dixon 검정이 제공하는 “자기‑이웃”과 “타‑이웃” 비율만을 검정하는 데 비해, 제안된 검정은 각 클래스 쌍에 대해 독립적인 z‑통계량을 산출한다. 이는 전체 검정에서 유의미한 결과가 도출된 후, 구체적인 클래스 쌍이 어떤 방향(분리 또는 결합)으로 기여했는지를 명확히 파악할 수 있게 한다.

통계적 성능 평가는 두 단계로 이루어진다. 첫째, 귀무분포 하에서 Type I 오류율을 검증하기 위해 다양한 샘플 크기(N=20~200)와 클래스 비율을 조합한 시뮬레이션을 수행한다. 결과는 제안 검정이 특히 불균형 클래스 비율에서 Dixon 검정보다 과도한 오류를 발생시키지 않으며, 명목 수준(α=0.05) 근처에서 안정적인 오류 제어를 보임을 보여준다. 둘째, 대안 가설(분리·결합) 하에서 검정력을 비교한다. 여기서는 인공적으로 생성한 클러스터링(Thomas 프로세스)와 얽힘(핵심-핵심) 패턴을 이용했으며, 제안 검정이 평균 NN 거리보다 작은 스케일에서 더 높은 검정력을 나타낸다. 특히, 셀별 검정은 특정 클래스 쌍에 대한 효과 크기를 정량화하는 데 유리함을 확인했다.

실제 데이터 적용 사례는 (1) 미국 뉴저지 주의 흑백 나무꾼 포인트 데이터, (2) 캘리포니아 해안의 해양 식물 군집 데이터이다. 두 사례 모두 전체 검정에서 유의미한 공간 상호작용을 발견했으며, 셀별 검정을 통해 어느 클래스가 다른 클래스와 주로 결합하거나 분리되는지를 구체적으로 해석했다. 이러한 결과는 생태학적 혹은 환경 정책적 의사결정에 직접적인 인사이트를 제공한다.

전반적으로, 논문은 NNCT 기반 검정의 이론적 토대를 확장하고, 실용적인 구현을 위한 알고리즘(예: R 패키지)까지 제시함으로써, 공간 통계학 커뮤니티에 중요한 도구를 제공한다. 향후 연구에서는 다중 클래스(≥3) 상황에서의 다변량 확장과, 비정상적인 경계 효과를 보정하는 방법론 개발이 기대된다.