탐색 실패: 제한된 상호작용 예산에서 언어 모델의 탐험 능력

초록

본 논문은 제한된 쿼리 예산 하에서 연속·이산 환경을 탐색하도록 설계된 세 가지 파라메트릭 과제(HillSearch, TreeSearch, MaxSatSearch)를 제시하고, 최신 대형 언어 모델(LM)들이 단순 탐색‑활용 휴리스틱보다 일관되게 성능이 낮으며 예산이 늘어나도 개선 폭이 미미함을 실험적으로 입증한다. 또한 고정 예산을 병렬 스레드로 나누는 방법과 주기적 요약 기법이 LM의 탐색 효율을 의외로 향상시킨다는 두 가지 경량 개입을 제안한다.

상세 분석

이 연구는 “탐색‑활용(trade‑off)” 문제를 명시적으로 측정할 수 있는 벤치마크를 구축한 점이 가장 큰 공헌이다. HillSearch는 구간