복합 질의 이해를 위한 분해·해석 기반 ReDI

초록

ReDI는 복잡하고 장문의 검색 질의를 LLM을 활용해 의미 단위의 서브쿼리로 분해하고, 각 서브쿼리에 풍부한 의미 해석을 부여한 뒤 독립적으로 검색하고 결과를 융합하는 3단계 파이프라인이다. 실제 상용 검색 로그에서 추출한 대규모 복합 질의 데이터를 구축하고, DeepSeek‑R1의 지식을 경량 모델에 증류해 실시간 서비스에 적용 가능하도록 설계했다. BEIR·BRIGHT 벤치마크 실험에서 기존 스파스·덴스 검색 방법들을 지속적으로 능가했으며, 경량 모델조차도 뛰어난 성능을 보였다.

상세 분석

본 논문은 복합 질의 이해(Query Understanding, QU) 분야에서 “분해‑해석”이라는 두 축을 결합한 ReDI 프레임워크를 제안한다. 첫 번째 단계인 Intent Reasoning & Decomposition에서는 LLM을 프롬프트 기반으로 질의의 근본 의도를 추론하고, 이를 다수의 독립적인 서브쿼리 집합 S={s₁,…,s_m}으로 분해한다. 이때 서브쿼리는 “명확·간결·독립”이라는 기준을 만족하도록 설계돼, 다중 의도와 다중 홉 정보를 놓치지 않도록 한다. 두 번째 단계인 Adaptive Sub‑Query Interpretation은 검색 방식에 따라 세 가지 해석을 제공한다. ① Sparse(lexical) 해석은 동의어·형태소 변형·연관 엔터티를 추가해 BM25와 같은 용어 기반 검색기의 어휘 불일치를 완화한다. ② Dense(semantic) 해석은 서브쿼리를 풍부한 서술형 텍스트로 재구성해, 임베딩 공간에서 의미적 정렬을 강화한다. ③ Reasoning‑level 해석은 서브쿼리의 질문 배경과 추론 흐름을 짧게 기술해, 검색 모델이 깊은 의도와 일치하는 문서를 선호하도록 신호를 제공한다. 세 번째 단계인 Retrieval Result Fusion에서는 각 서브쿼리‑해석 쌍에 대해 독립적으로 스파스(BM25)와 덴스(DPR) 검색을 수행하고, 점수들을 단순 합산하거나 가중 평균(λ 파라미터)으로 결합한다. 이때 k₃와 λ와 같은 하이퍼파라미터를 조정해 용어 강조와 의미 강조 사이의 균형을 미세 조정한다.

데이터 측면에서 저자들은 상용 검색 엔진 로그에서 복합 질의를 추출하고, DeepSeek‑R1을 이용해 고품질의 의도·해석 라벨을 자동 생성했다. 이렇게 구축된 대규모 데이터셋을 기반으로 지식 증류(Knowledge Distillation)를 수행, 경량 학생 모델을 학습시켜 실시간 서비스에 적용 가능하도록 했다. 실험에서는 공개 벤치마크인 BEIR(다양한 도메인)과 BRIGHT(추론‑집중 질의)에서 ReDI가 기존 최첨단 LLM‑기반 QU 방법들(예: HyDE, RRR, ReasonIR 등)을 크게 앞섰으며, 특히 스파스 검색 환경에서 k₃ 조정이 성능에 미치는 영향을 상세히 분석했다.

핵심 기여는 (1) 복합 질의 분해와 의미 해석을 결합한 통합 파이프라인, (2) 실제 서비스에 적합한 경량 모델 증류 및 공개 데이터셋 제공, (3) 다양한 검색 패러다임에서 일관된 성능 향상을 입증한 점이다. 한계점으로는 LLM 프롬프트 설계와 증류 과정에서 라벨 품질에 의존한다는 점, 그리고 서브쿼리 수가 급증할 경우 검색 비용이 증가할 가능성이 있다. 향후 연구는 자동 서브쿼리 수 최적화와 멀티모달 증류, 그리고 실시간 사용자 피드백을 활용한 동적 해석 조정으로 확장될 수 있다.