랜덤 포레스트로 만든 효율적인 해시

초록

본 논문은 랜덤 포레스트를 이용해 의미론적 해시 코드를 생성하는 새로운 프레임워크를 제안한다. 각 트리를 해시 함수로 활용하고, 서브스페이스 기반 분할 함수를 도입해 동일 클래스 데이터에 대해 일관된 비트를 보장한다. 또한, 정보이론적 코드 집합 선택을 통해 여러 트리의 비트를 하나의 압축된 해시로 통합한다. MNIST, CIFAR‑10, PubFig 등 대규모 이미지 데이터셋에서 기존 최첨단 해시 방법들을 크게 능가하는 검색 정확도와 빠른 인코딩 속도를 입증한다.

상세 분석

이 논문은 기존 랜덤 포레스트가 분류 목적에 최적화돼 있어 개별 트리에서 생성되는 비트 패턴이 클래스 간 일관성을 유지하지 못한다는 한계를 정확히 짚어낸다. 이를 해결하기 위해 저자들은 두 가지 핵심 기법을 도입한다. 첫 번째는 ‘변환 학습자(Transformation Learner)’라 명명된 서브스페이스 모델을 각 노드의 분할 기준으로 사용함으로써, 같은 클래스에 속하는 샘플이 동일한 경로를 따라 동일한 비트를 활성화하도록 강제한다. 이 접근은 기존의 단순한 임의 분할(stump)보다 더 풍부한 표현력을 제공하면서도, 작은 학습 샘플에서도 과적합을 방지한다는 장점을 가진다. 두 번째는 정보이론적 코드 집합 선택이다. 전체 M개의 트리에서 얻은 (2^d‑2)‑비트 코드 블록을 B_i라 두고, 목표 해시 길이 L에 맞춰 k개의 블록을 선택한다. 선택 기준은 ‘선택된 블록과 나머지 블록 간의 상호 정보량(I(B; B\B))을 최대화’하는 것으로, 이는 서로 보완적인 정보를 가진 블록을 골라 전체 해시의 구분력을 높인다. 라벨이 있는 경우에는 라벨과의 상호 정보량(I(B; C))을 가중치 λ와 함께 추가해 반지도 학습(semi‑supervised) 형태로 확장한다. 이 과정은 학습 단계에서 한 번만 수행되며, 테스트 시 추가 비용이 전혀 없다는 실용적인 장점이 있다.

실험 설계는 64개의 깊이 3 트리로 구성된 포레스트를 사용하고, 36비트 해시를 생성한다. MNIST에서는 훈련 샘플 수가 30개/클래스인 극단적인 저샘플 상황에서도 기존 FastHash, TSH, HDML 등을 크게 앞선 정밀도와 재현율을 보였다. CIFAR‑10에서는 반지도 코드 집합 선택(aggr.)을 적용했을 때 Hamming 반경 0에서 14% 수준의 정밀도를 32%까지 끌어올렸으며, 반경 2에서는 재현율이 11%에서 21%로 크게 상승했다. PubFig 얼굴 데이터셋에서도 30장의 훈련 이미지만 사용했음에도 불구하고 97% 이상의 정밀도와 85% 이상의 재현율을 달성, 특히 소규모 학습 데이터에 강인함을 입증한다.

이러한 결과는 두 가지 요인의 시너지 효과라 볼 수 있다. 첫째, 변환 학습자를 통한 트리 내부의 일관된 비트 패턴은 클래스 구분을 자연스럽게 강화한다. 둘째, 정보이론적 블록 선택은 서로 중복되지 않는 정보를 효율적으로 결합해 전체 해시의 엔트로피를 극대화한다. 다만, 현재 구현은 깊이 d=3, 트리 수 M=64에 제한되어 있어 매우 큰 비트 길이(L>128) 혹은 고차원 피처에 대한 확장성 검증이 부족하다. 또한, 서브스페이스 분할을 위한 학습 비용이 기존 CART 기반 스플릿보다 높을 수 있어, 대규모 실시간 시스템에 적용하려면 최적화가 필요하다. 전반적으로 랜덤 포레스트를 해시 생성기로 재구성한 이 접근은 기존 딥러닝 기반 해시와 비교해 학습·추론 비용이 낮으면서도 경쟁력 있는 성능을 보여, 메모리·연산 제한이 있는 임베디드 환경이나 대규모 검색 엔진에 실용적인 대안이 될 가능성을 제시한다.