무작위 구체 커버 분류기의 앙상블 연구

본 논문은 인스턴스 기반 학습기인 Randomised Sphere Cover(RSC) 분류기를 중심으로 새로운 앙상블 방법을 개발하고, 그 효과를 광범위한 실험을 통해 검증한다. RSC는 데이터 포인트를 구체(sphere) 형태로 압축하는데, 각 구체는 중심점(선택된 인스턴스)과 반경(다른 클래스의 가장 가까운 인스턴스까지 거리)으로 정의된다. 구체는 최소 α개의 사례를 포함해야 하며, 이는 노이즈와 이상치에 대한 강인성을 제공한다. 구체를 이용한 분류는 (1) 구체에 포함된 경우에는 해당 구체의 클래스를 반환하고, (2) 구체에 포함되지 않은 경우 가장 가까운 구체 경계의 클래스를 선택한다. 이러한 구조는 기존 k‑NN이 인스턴스 자체에 의존하는 한계를 극복하고, 데이터 압축을 통해 학습 및 예측 속도를 크게 향상시킨다. RSC의 무작위성은 구체 생성 과정에서 무작위로 중심을 선택함으로써 자연스럽게 다양성을 제공한다. 이를 활용해 두 가지 앙상블 기법을 제안한다. 첫 번째는 αβRSE(αβ Random Sphere Ensemble)로, 각 베이스 학습기에 대해 사례 재샘플링을 수행하고, β 파라미터를 도입해 구체 내 허용되는 오분류 사례 수를 조절한다. β가 클수록 구체는 더 많은 오류 사례를 포함하게 되어 모델의 편향이 감소하지만, 과도한 β는 잡음을 증가시킬 위험이 있다. 두 번째는 αRSSE(α Random Subspace Sphere Ensemble)로, 각 베이스 학습기에 무작위로 선택된 특성 서브스페이스를 적용한다. 고차원 데이터에서 차원 축소 효과와 구체 기반 압축이 결합되어 과적합을 억제하고, 특히 유전자 발현 데이터와 같은 매우 높은 차원의 문제에서 강력한 성능을 보인다. 실험은 크게 두 부분으로 나뉜다. 첫 번째는 UCI 저장소의 37개 데이터셋을 대상으로 10‑fold 교차검증을 수행한 비교 실험이다. 여기서는 Random Forest, Bagging, AdaBoost, Random Subspace, Multiboost, Rotation Forest 등 대표적인 트리 기반 앙상블과 비교하였다. 결과는 αβRSE가 Random Forest와 Multiboost보다 약간 낮은 정확도를 보였지만, AdaBoost와 Random Subspace보다 통계적으로 유의하게 우수했다. αRSSE는 전체 평균 정확도에서 가장 높은 값을 기록했으며, 특히 차원 수가 500 이상인 데이터셋에서 두드러진 성능 향상을 보였다. 두 번째는 고차원 유전자 발현 데이터(6개 데이터셋, 차원 2000~12000)에서의 서브스페이스 앙상블 비교이다. 여기서는 기존 서브스페이스 기반 방법(Rotation Forest, Random Subspace)과 비교했으며, 사전 특성 선택(예: t‑test 기반 필터)과 결합한 αRSSE가 가장 높은 정확도를 달성했다. 이는 구체 기반 압축이 고차원에서의 잡음 감소와 특성 선택 효과를 증폭시킨 결과로 해석된다. 또한 논문은 편향·분산(Bias‑Variance) 분석을 수행해 성능 향상의 원인을 정량화하였다. Domingos의 BV 분해 프레임워크를 적용해 각 앙상블의 평균 편향, 무편향 분산, 편향된 분산을 추정하였다. αβRSE는 β 파라미터 조정을 통해 편향을 크게 감소시키는 반면, 무편향 분산은 약간 증가하였다. 반면 αRSSE는 서브스페이스 선택을 통해 무편향 분산을 크게 감소시켰으며, 편향 감소 효과도 동시에 나타났다. 이러한 결과는 두 앙상블이 서로 다른 메커니즘으로 일반화 오류를 감소시킨다는 것을 보여준다. 결론적으로, RSC 기반 앙상블은 (1) 데이터 압축을 통한 효율성, (2) 무작위 구체 생성으로 인한 다양성, (3) α와 β 파라미터를 통한 편향·분산 조절이라는 세 가지 장점을 결합한다. 실험 결과는 기존 트리 기반 앙상블과 비교해 동등하거나 더 나은 성능을 보이며, 특히 고차원 데이터에서 뛰어난 확장성을 입증한다. 향후 연구에서는 구체 중심 선택 전략의 개선, 비유클리드 거리 함수 적용, 그리고 다른 베이스 학습기와의 결합을 통해 더욱 강력한 앙상블 프레임워크를 구축할 수 있을 것으로 기대된다.