2차원 데이터의 양파껍질 기반 이상치 탐지와 거리 메트릭 비교

초록

본 논문은 2‑D 가우시안 점 집합에 대해 수정된 양파껍질(볼록 껍질) 유전 알고리즘을 적용하여 이상치를 탐지한다. Euclidean, Standardized Euclidean, Mahalanobis 세 가지 거리 메트릭을 사용한 시나리오를 제시하고, 각 경우의 탐지 정확도와 연산 효율을 비교·분석한다.

상세 분석

본 연구는 거리 기반 이상치 탐지 기법 중에서도 특히 볼록 껍질을 반복적으로 제거하는 ‘양파껍질(온ion‑Peeling)’ 방식을 유전 알고리즘과 결합한 점이 독창적이다. 기존의 단순 거리 임계값 설정 방식은 데이터 분포가 비대칭이거나 차원이 증가할 때 성능이 급격히 저하되는 한계가 있었으나, 저자들은 먼저 전체 데이터의 외곽을 정의하는 볼록 껍질을 구하고, 이를 차례로 ‘껍질’처럼 벗겨내면서 남은 점들의 중심과 분산을 재계산한다. 이 과정에서 유전 알고리즘은 각 껍질 단계에서 후보 이상치 집합을 ‘염색체’로 표현하고, 적합도 함수는 선택된 거리 메트릭에 기반한 평균 거리와 분산을 동시에 최소화하도록 설계되었다.

세 가지 거리 메트릭의 선택은 논문의 핵심 실험 변수이다. Euclidean 거리만을 사용할 경우, 데이터가 동일한 스케일을 가정하므로 축 간 차이가 큰 경우 오탐이 빈번히 발생한다. 이를 보완하기 위해 Standardized Euclidean 거리, 즉 각 차원의 표준편차로 정규화한 거리 측정을 도입했으며, 이는 축 스케일 차이를 효과적으로 제거한다. 마지막으로 Mahalanobis 거리는 공분산 행렬을 이용해 데이터의 상관관계를 반영하므로, 특히 공분산이 비대각선인 경우(즉, 변수 간 상관관계가 존재할 때) 가장 높은 탐지 정확도를 보였다.

실험 결과는 2‑D 가우시안 시뮬레이션 데이터에 한정되었지만, 각 메트릭별 ROC 곡선과 F1‑score를 통해 Mahalanobis 기반 탐지가 평균 5~7% 높은 정밀도와 재현율을 달성함을 보여준다. 또한, 유전 알고리즘의 파라미터(인구 규모, 교차·돌연변이 확률)를 변화시켰을 때 연산 시간은 선형적으로 증가했으며, 10,000점 규모 데이터에서도 실시간 수준(수초 이하)의 탐지가 가능함을 입증했다.

한계점으로는 (1) 2‑D에 국한된 실험 설계로 고차원 데이터에 대한 확장성 검증이 부족하고, (2) 볼록 껍질 계산 자체가 O(n log n) 복잡도를 가지므로 매우 대규모 데이터셋에서는 사전 샘플링이 필요할 수 있다. 또한, 유전 알고리즘의 수렴 기준이 명시적이지 않아 최적 해에 도달했는지 판단하기 어려운 점도 지적된다. 향후 연구에서는 고차원 커널화된 볼록 껍질, 다중 목표 최적화 적합도 설계, 그리고 실시간 스트리밍 환경에서의 적용 가능성을 탐색할 여지가 있다.