최근접 이웃 교차표 기반 새로운 공간 분리 검정

초록

본 논문은 두 개 이상의 클래스(또는 종)의 점들이 나타내는 공간적 군집 현상을 분석하기 위해 최근접 이웃 교차표(NNCT)를 이용한 새로운 검정 방법을 제안한다. 기존의 Pielou 검정은 귀무가설에서 과도하게 자유롭고, Dixon 검정은 무작위 라벨링(RL) 하에서 적정 유의 수준을 유지한다는 한계가 있다. 저자들은 이러한 한계를 보완하고자 세 가지 다변량 군집 검정을 설계하고, 무작위 라벨링과 완전 무작위성(CSR) 독립 가설 하에서의 경험적 크기와 다양한 분리·연관 대안 하에서의 경험적 검정력을 시뮬레이션을 통해 비교한다. 결과는 새 검정들이 기존 방법보다 전반적으로 우수한 성능을 보이며, 실제 데이터 세트 세 건에 적용해 실용성을 확인한다.

상세 분석

이 연구는 공간 통계학에서 두 클래스 이상의 점 패턴이 나타내는 분리(segregation)와 연관(association) 현상을 정량화하는 도구로서 최근접 이웃 교차표(NNCT)를 중심에 두고 있다. NNCT는 각 점이 자신의 최근접 이웃(NN)으로 어떤 클래스에 속하는지를 기록한 2×2(또는 그 이상) 교차표이며, 이를 통해 클래스 간 상호작용을 검정한다. 기존 방법 중 Pielou 검정은 기대 빈도를 단순히 전체 빈도로 나누어 계산해 귀무가설(무작위 라벨링 또는 CSR 독립) 하에서 과도하게 자유로운 경향을 보여, 실제 유의 수준보다 높은 제1종 오류를 초래한다. 반면 Dixon 검정은 기대 빈도를 조건부 확률 형태로 정의하고, 표본 크기에 따라 정확한 분포를 근사함으로써 RL 가설 하에서 적정 유의 수준을 유지한다. 그러나 Dixon 검정은 CSR 독립 가설에 대해서는 보수적이며, 다중 클래스 상황에서 확장성이 제한적이다.

저자들은 이러한 한계를 극복하기 위해 세 가지 새로운 검정통계량을 제안한다. 첫 번째는 NNCT의 행·열 합을 이용한 다변량 카이제곱 형태로, 기대값을 전체 빈도와 클래스 비율을 동시에 고려해 정의한다. 두 번째는 각 셀의 관측값과 기대값 차이를 표준화한 Z-통계량을 모두 합산하는 방식으로, 셀 간 상관성을 반영한다. 세 번째는 최근접 이웃 거리 정보를 포함한 가중치 기반 통계량으로, 가까운 이웃일수록 더 큰 가중치를 부여해 공간적 연속성을 강조한다. 이들 통계량은 모두 무작위 라벨링(RL)과 CSR 독립 두 귀무가설에 대해 부트스트랩 혹은 몬테카를로 시뮬레이션을 통해 영가설 분포를 추정한다.

시뮬레이션 연구에서는 다양한 점 밀도, 클래스 비율, 그리고 공간 영역(정사각형, 원형) 조건을 변형시켜 10,000번 이상의 반복 실험을 수행했다. 경험적 크기 측면에서 제안된 세 검정은 Pielou 검정이 보이는 5% 수준을 초과하는 과도한 제1종 오류를 크게 억제했으며, Dixon 검정과 비교했을 때 CSR 독립 하에서는 보다 정확한 유의 수준을 유지했다. 검정력 평가에서는 강한 분리(클래스가 서로 멀리 떨어진 경우)와 약한 연관(특정 클래스가 다른 클래스 주변에 집중되는 경우) 두 시나리오를 고려했으며, 특히 세 번째 가중치 기반 검정이 연관 대안에서 가장 높은 검정력을 보였다. 이는 거리 가중치가 실제 공간 상호작용을 더 민감하게 포착하기 때문이다.

실제 데이터 적용 사례로는 (1) 나무 종 분포 데이터, (2) 질병 발생 위치 데이터, (3) 도시 범죄 사건 데이터가 선택되었다. 각 사례에서 NNCT를 구성하고 제안된 검정들을 적용한 결과, 기존 Pielou와 Dixon 검정이 놓칠 수 있는 미세한 분리·연관 패턴을 새 검정이 유의하게 탐지했으며, 결과를 2차 함수적 방법(예: Ripley’s K 함수)과 비교했을 때 일관성을 확인했다. 특히, 도시 범죄 데이터에서는 특정 범죄 유형이 특정 지역에 집중되는 연관성을 가중치 기반 검정이 가장 명확히 드러냈다.

전반적으로 이 논문은 NNCT 기반 검정의 이론적 기반을 확장하고, 실용적인 시뮬레이션과 실제 사례를 통해 새로운 검정들의 우수성을 입증한다. 다변량 확장성, 거리 가중치 도입, 그리고 부트스트랩 기반 영가설 분포 추정이라는 세 축을 통해 기존 방법의 한계를 보완했으며, 향후 복합적인 공간 상호작용을 분석하는 데 강력한 도구가 될 것으로 기대된다.