알고리즘 선택을 무한 손실 밴딧 문제로 풀다

본 논문은 알고리즘 선택을 기존의 오프라인 학습 기반 접근법에서 벗어나, 온라인 밴딧 프레임워크로 재구성한다. 서론에서는 알고리즘 성능이 문제 인스턴스에 따라 크게 달라지는 현실을 지적하고, 오프라인 방식이 초기 학습 비용을 무시한다는 한계를 제시한다. 이를 해결하기 위해 저자들은 알고리즘 선택을 ‘다음 인스턴스에 어떤 알고리즘을 실행할 것인가’를 결정하는 연속적인 선택 문제로 모델링한다. 2장에서는 알고리즘 선택 방법을 결정/최적화, 전체/인스턴스, 정적/동적, 오블리비어스/비오블리비어스, 오프라인/온라인 등 다섯 축으로 분류하고, 기존 연구들을 체계적으로 정리한다. 특히, 메타‑러닝, 경험적 난이도 모델, 강화학습 기반 접근법 등을 검토하면서, 대부분이 오프라인 학습에 의존하거나 탐색‑활용 균형을 명시적으로 다루지 못함을 강조한다. 3장에서는 밴딧 문제의 기본 개념을 소개하고, 알고리즘 선택을 다중 팔 밴딧 게임에 매핑한다. 여기서 각 팔은 하나의 알고리즘이며, 손실은 해당 알고리즘이 특정 인스턴스를 해결하는 데 걸린 시간이다. 손실은 부분 정보(선택한 팔만 관찰)만 제공되며, 손실 분포가 비정적이고 적대적일 수 있음을 고려한다. 단일 레벨 밴딧 접근은 ‘전체 집합에서 최적의 알고리즘’만을 찾는 전통적 전제에 머물러, 실제로 인스턴스마다 최적 알고리즘이 다를 경우 효율성이 떨어진다. 이를 보완하기 위해 저자들은 두 단계 선택 구조를 제안한다. 하위 레벨에서는 ‘시간 할당기(Time Allocator, TA)’가 각 알고리즘에 할당할 CPU 비율을 결정하고, 상위 레벨에서는 밴딧 솔버가 여러 TA 중 최적의 것을 선택한다. 이 구조는 탐색(다양한 TA 시험)과 활용(성능이 입증된 TA 적용)을 동시에 가능하게 한다. 4장에서는 기존의 전문가 조언 기반 밴딧 솔버(예: EXP3‑IX)를 변형하여, 손실 상한이 사전에 알려지지 않은 상황에서도 작동하도록 만든다. 핵심은 손실이 매우 큰 경우에도 확률 업데이트가 과도하게 변하지 않도록 가중치를 조정하는 것이다. 저자들은 이 변형 솔버에 대해 기대 레그레드가 \(\mathcal{O}(\sqrt{T\log N})\) 이하임을 증명한다. 여기서 \(T\)는 전체 문제 수, \(N\)은 사용 가능한 TA의 수이다. 이론적 보장은 손실이 무한히 커질 수 있는 현실적인 시나리오에서도 알고리즘 선택이 수렴한다는 것을 의미한다. 5장에서는 제안된 프레임워크를 SAT·UNSAT 혼합 벤치마크에 적용한다. 실험에 사용된 알고리즘 집합은 여러 최신 SAT 솔버이며, 각 솔버의 실행 시간은 인스턴스마다 크게 변동한다. 비교 대상은 고정된 균등 시간 할당기와 기존의 상한 기반 밴딧 솔버이다. 결과는 GAMBLET‑A가 평균 해결 시간과 성공률 모두에서 우수함을 보여준다. 특히, 손실 상한을 임의로 설정해야 했던 기존 방법에 비해, 제안 방법은 파라미터 튜닝 없이도 안정적인 성능을 유지한다. 6장 결론에서는 두 단계 밴딧 기반 알고리즘 선택이 탐색‑활용 트레이드오프를 이론적으로 보장하면서도 실용적인 성능을 제공한다는 점을 강조한다. 또한, 손실 상한이 알려지지 않은 상황에서도 기대 레그레드가 제한된다는 새로운 이론적 결과는 향후 메타‑러닝, 자동 파라미터 최적화, 그리고 다양한 최적화 문제에 대한 온라인 선택 메커니즘 설계에 중요한 기반이 될 것으로 기대한다.