특징공학 부활 엔트로피와 HOG LBP 융합으로 고전 머신러닝 재조명

초록

본 논문은 이미지 분류에서 해석 가능성과 연산 효율성을 중시하는 상황에 맞춰, 2차원 이미지에 적용한 순열 엔트로피(PE)를 핵심 특징으로 삼고, HOG와 LBP를 결합한 780차원 손수 만든 특징 벡터를 제안한다. SVM 분류기에 적용했을 때 Fashion‑MNIST, KMNIST, EMNIST, CIFAR‑10 등에서 딥러닝 대비 경쟁력 있는 정확도를 달성한다.

상세 분석

이 연구는 최근 딥러닝이 이미지 분류의 표준이 된 흐름에 반발하여, 전통적인 특징 공학의 가치를 재조명한다. 핵심 아이디어는 순열 엔트로피(Permutation Entropy, PE)를 2차원 이미지에 확장하여, 행, 열, 대각선, 반대각선 및 로컬 패치 단위에서 다중 스케일·다중 방향으로 복잡성을 정량화하는 것이다. PE는 값의 절대 크기가 아니라 순서 관계에 기반하므로 노이즈에 강하고, 계산량이 적어 실시간 응용에 유리하다. 저자는 각 행·열에 대해 정방향과 역방향 PE를 구한 뒤 기하 평균을 취해 하나의 스칼라값을 얻고, 이를 모든 행·열에 적용해 2·(이미지 높이+너비) 차원의 기본 피처를 만든다. 대각선·반대각선도 동일 방식으로 처리해 공간적 구조를 포괄한다.

이와 별도로, 전통적인 형태·텍스처 디스크립터인 HOG와 LBP를 각각 360차원(9방향·40셀)과 360차원(8비트·45셀) 정도로 추출해 PE 피처와 단순히 연결(concatenation)한다. HOG는 에지와 형태 정보를, LBP는 미세 텍스처와 회색조 불변성을 제공한다. 결과적으로 780차원의 손수 만든 피처 벡터는 의미론적으로 명확한 세 부분(복잡도, 형태, 텍스처)으로 구성돼, 모델 해석성을 크게 향상시킨다.

분류기는 선형·다항·RBF 커널을 포함한 SVM을 그리드 서치로 최적화했으며, 특히 C와 γ 파라미터를 데이터셋별로 미세 조정했다. 실험 결과는 다음과 같다. Fashion‑MNIST에서 91.23%의 테스트 정확도를 기록했으며, 이는 기존 비딥러닝 방법(최고 89.7%)을 능가한다. KMNIST, EMNIST, CIFAR‑10에서도 84~88% 수준의 정확도를 유지해, 복잡한 컬러·다채널 데이터에도 충분히 적용 가능함을 보여준다.

또한, 연산 비용 측면에서 PE·HOG·LBP 조합은 전체 파이프라인이 CPU만으로도 수 초 내에 처리될 수 있어, GPU 의존도가 높은 딥러닝 모델에 비해 에너지 효율성이 뛰어나다. 저자는 코드와 데이터 전처리 파이프라인을 GitHub에 공개해 재현성을 확보했으며, 향후 의료 영상·위성 이미지 등 도메인 특화된 고해상도 데이터에 적용할 가능성을 제시한다.

이 논문의 주요 공헌은 (1) 2D 이미지에 대한 다중 방향·다중 스케일 PE 정의, (2) PE와 HOG·LBP의 상호 보완적 융합을 통한 고차원 손수 만든 피처 설계, (3) SVM 기반 경량 분류기로 딥러닝 수준의 성능을 달성한 실증, (4) 해석 가능하고 계산 효율적인 대안 모델을 제시함으로써, “특징공학은 죽지 않았다”는 메시지를 과학적으로 입증한 점이다.