동적 업데이트를 위한 그래프 기반 근접 이웃 탐색: 랜덤 워크 기반 삭제 기법

초록

본 논문은 HNSW 그래프 구조에 랜덤 워크 이론을 적용해 삭제 연산을 정형화한다. 소프트맥스 확률에 따라 이웃을 선택하는 “소프트맥스 워크”를 도입하고, 이를 기반으로 삭제 시 히팅 타임을 보존하는 랜덤화된 스파시피케이션을 설계한다. 이후 무작위 샘플링을 결정론적으로 대체한 SPatch 알고리즘을 제안해, 기존 토ombstone, No‑patch, Local, FreshDiskANN, Global 방식에 비해 조회 지연, 재현율, 삭제 시간, 메모리 사용량 모두에서 우수한 트레이드오프를 실험적으로 입증한다.

상세 분석

이 논문은 HNSW가 기존에 삽입과 검색만을 공식적으로 지원하고, 삭제는 토ombstone 방식으로만 구현돼 메모리와 지연이 크게 증가한다는 문제점을 정확히 짚는다. 저자들은 HNSW 탐색을 “가장 가까운 이웃으로의 결정적 이동”에서 “거리 기반 가우시안 가중치에 비례한 확률적 이동”으로 일반화한다. 구체적으로, 현재 정점 u에서 이웃 v로 이동할 확률을 exp(−r²·‖q−v‖²) / Σ_{w∈N(u)}exp(−r²·‖q−w‖²) 로 정의한 소프트맥스 워크는 r 값이 충분히 클 경우 기존 그리디 탐색과 거의 동일한 경로를 만든다. 이 확률적 해석을 통해 그래프를 정점‑쿼리 의존적인 가중 그래프로 바라볼 수 있게 되고, 랜덤 워크의 히팅 타임(특정 정점에 도달하기까지의 기대 스텝 수)을 보존하는 스파시피케이션 문제로 전환한다.

삭제 시 저자들은 먼저 삭제 대상 p의 이웃 N(p) 에 대해 각 가능한 새 간선 (u,v) 에 가중치를 할당한다. 이 가중치는 소프트맥스 워크에서 해당 간선이 선택될 확률과 일치하도록 설계되어, 히팅 타임 분포가 원 그래프와 동일하게 유지된다. 이후 랜덤화된 스파시피케이션 단계에서, 가중치에 비례해 간선을 샘플링해 희소 그래프를 만든다. 이 과정은 기존 스펙트럴 스파시피케이션(효과 저항 기반)보다 구현이 간단하면서도 히팅 타임 보존이라는 약한 보장을 제공한다.

실제 시스템에 적용하기 위해 무작위 샘플링을 결정론적으로 대체한다. 즉, 가중치가 큰 상위 k개의 간선만을 보존하고 나머지는 삭제한다. 이를 “SPatch”라 명명했으며, 삭제 연산 자체는 O(|N(p)|·log |N(p)|) 수준의 비용으로 수행된다. 중요한 점은, 이 과정이 기존 HNSW 삽입 절차와 동일한 로컬 연결 규칙을 따르면서도 전역적인 히팅 타임 특성을 유지한다는 것이다. 실험에서는 대규모 벡터 데이터셋(텍스트, 이미지, 멀티모달)에서 30 %70 % 수준의 대량 삭제를 수행했을 때, 토ombstone 방식은 메모리 사용량이 일정하게 유지되고 조회 지연이 23배 증가하는 반면, SPatch는 메모리 사용량을 거의 선형적으로 감소시키고, 평균 조회 지연을 10 % 이하로 억제한다. 재현율 역시 95 % 이상을 유지했으며, FreshDiskANN이나 Global 재연결 방식보다 삭제 시간(특히 대량 배치 삭제)에서 2배 이상 빠른 결과를 보였다. 이러한 성능 향상은 히팅 타임 보존이라는 이론적 근거가 실제 그래프 구조의 연결성을 크게 손상시키지 않으면서도 불필요한 간선을 효율적으로 제거했기 때문으로 해석된다. 전체적으로 이 논문은 그래프 기반 ANN에서 삭제 연산을 확률적 그래프 이론과 연결시켜, 실용적인 시스템 설계에 바로 적용 가능한 프레임워크와 알고리즘을 제공한다.