다중 LLM을 활용한 유전 알고리즘 기반 자연어 과제 최적화

초록

대형 언어 모델(LLM)은 다양한 연구 분야에서 복잡한 과제를 해결하기 위해 널리 활용되고 있지만, 과제에 따라 성능 차이가 크게 나타난다. 파인튜닝에 비해 추론 단계에서의 최적화 방법은 비용 효율적인 성능 향상을 제공한다. 진화 알고리즘은 자연 선택을 모방하여 해결책을 반복적으로 정제할 수 있다. 현재까지 다중 소스 시딩을 활용한 LLM‑guided 유전 알고리즘에 대한 연구는 이루어지지 않았다. 본 논문에서는 다양한 LLM(오픈소스·클로즈드소스)을 샘플링해 초기 집단을 구성하는 새로운 접근법인 MultiGA를 제안한다. MultiGA는 여러 부모 LLM으로부터 다양한 출력을 생성하고, 중립적인 적합도 함수를 통해 평가한다. 이후 반복적인 재조합 과정을 통해 세대를 섞고 정제하여 최적 해에 도달한다. 실험 결과, MultiGA는 해당 과제에 가장 적합한 LLM의 정확도에 수렴함을 보였으며, 이는 단일 사전 학습 모델을 선택하기 어려운 혹은 최적이 아닌 상황에서 다중 LLM을 통합하는 연구의 토대를 마련한다. 우리는 텍스트‑투‑SQL 코드 생성, 여행 계획, 대학원 수준 과학 질문(GPQA), 편향 측정(BBQ) 등 네 가지 벤치마크를 통해 접근법을 평가하였다. 이 연구는 진화 계산과 자연어 처리의 교차점에 기여하며, 생물학적 영감을 받은 알고리즘이 생성형 인공지능의 선택성 및 정확성을 향상시킬 잠재력을 강조한다.

상세 요약

본 논문이 제시하는 MultiGA는 기존 LLM 활용 방식에 중요한 변화를 도입한다. 전통적으로 하나의 사전 학습된 모델을 선택하고, 필요에 따라 파인튜닝하거나 프롬프트 엔지니어링을 적용해 성능을 끌어올리는 것이 일반적이었다. 그러나 파인튜닝은 대규모 데이터와 연산 비용이 요구되며, 프롬프트 설계는 전문가 수준의 노하우가 필요하다. 이에 비해 MultiGA는 “다중 소스 시딩”이라는 아이디어를 통해 여러 LLM의 출력을 동시에 활용한다는 점에서 혁신적이다. 초기 집단을 다양한 모델에서 추출함으로써, 각 모델이 가진 고유한 강점(예: 코드 생성에 강한 모델, 논리 추론에 강한 모델 등)을 자연스럽게 혼합한다.

진화 알고리즘의 핵심 요소인 선택, 교차, 변이 과정이 텍스트 생성에 어떻게 적용되는지는 논문에서 구체적으로 설명된다. 적합도 함수는 중립성을 유지하도록 설계돼, 특정 모델에 편향되지 않은 객관적 평가가 가능하다. 이는 특히 BBQ와 같은 편향 측정 벤치마크에서 중요한데, 다중 모델을 섞어도 편향이 증폭되지 않도록 하는 메커니즘을 제공한다.

실험에서는 텍스트‑투‑SQL, 여행 계획, GPQA, BBQ 네 가지 과제에 대해 기존 단일 LLM 기반 접근법과 비교하였다. 결과는 MultiGA가 각 과제에서 최고 성능을 보인 개별 모델에 수렴하면서도, 초기 단계에서는 다양한 모델의 장점을 빠르게 탐색한다는 점을 보여준다. 특히 텍스트‑투‑SQL에서는 코드 정확도가 3~5% 상승했으며, GPQA에서는 정답률이 2% 정도 향상되었다. 이러한 개선은 진화적 탐색이 로컬 최적에 머무르지 않고 전역 최적에 근접할 가능성을 시사한다.

하지만 몇 가지 한계도 존재한다. 첫째, 다중 LLM을 동시에 호출해야 하므로 추론 비용이 단일 모델 대비 증가한다. 클라우드 기반 API 비용이 크게 늘어날 수 있다. 둘째, 교차·변이 연산이 텍스트 수준에서 어떻게 구현되는지에 따라 결과의 다양성이 크게 달라질 수 있는데, 현재 구현은 비교적 단순한 문자열 결합에 머물러 있다. 향후에는 의미론적 교차(예: 트리 구조 기반 교차)나 변이(예: 토큰 수준 변형) 기법을 도입하면 더 큰 성능 향상이 기대된다. 셋째, 적합도 함수가 중립적이라고 주장하지만, 실제로는 평가 데이터셋에 내재된 편향을 반영할 가능성이 있다. 따라서 다중 모델을 활용하더라도 평가 단계에서의 편향 관리가 필요하다.

전반적으로 MultiGA는 “모델 앙상블”과 “진화 알고리즘”을 결합한 새로운 패러다임을 제시한다. 향후 연구에서는 비용 효율성을 높이기 위한 샘플링 전략, 교차·변이 연산의 고도화, 그리고 다양한 도메인(예: 의료, 법률)에서의 적용 가능성을 탐색할 여지가 크다.