진화적 단계별 설계로 자동 알고리즘 디자인 혁신

초록

본 논문은 대규모 언어 모델(LLM)을 활용한 자동 알고리즘 설계에 단계별 진화 프레임워크(EvoStage)를 도입한다. 설계 과정을 여러 단계로 분할하고 실시간 중간 피드백을 제공함으로써 LLM의 환각을 억제하고 설계 효율을 극대화한다. 다중 에이전트와 전역‑국부 관점 메커니즘을 결합해 설계 공간을 축소하고 지역 최적에 빠지는 것을 방지한다. Adam 옵티마이저의 파라미터 스케줄링과 베이지안 최적화의 획득 함수 설계에 적용했으며, 공개 벤치마크와 상용 3D 칩 배치 툴에서 인간 전문가 및 기존 LLM 기반 방법을 크게 능가하는 성능을 기록했다.

상세 분석

EvoStage는 기존 LLM 기반 자동 알고리즘 설계가 갖는 ‘블랙박스 피드백’ 한계를 극복하기 위해 두 가지 핵심 아이디어를 제시한다. 첫째, 설계 작업을 K개의 단계로 자동 분할하고, 각 단계마다 실행 결과(I₁…I_K)를 실시간으로 LLM에게 반환한다. 이를 통해 LLM은 중간 결과를 기반으로 단계별 설계 방향을 수정할 수 있어, 전통적인 전체‑피드백 방식에서 발생하던 환각(hallucination)과 비효율적인 탐색을 크게 감소시킨다. 둘째, 다중 에이전트 구조를 도입해 각 알고리즘 컴포넌트(C₁…C_N)를 전담하는 코더 에이전트와, 현재 단계 정보를 종합해 다음 단계 목표를 제시하는 코디네이터 에이전트로 구성한다. 이렇게 하면 설계 공간이 컴포넌트 단위로 자연스럽게 축소되고, 에이전트 간 일관성이 확보된다.

전역‑국부 관점 메커니즘은 ‘Fast‑and‑Slow Thinking’에 영감을 받아 설계 탐색을 두 축으로 보강한다. 국부 관점(Local‑Perspective) 연산자는 단계별 설계(Stagewise‑Design)를 수행해 세밀한 최적화를 진행하고, 전역 관점(Global‑Perspective) 연산자는 기존 다중 단계 히어스틱을 한 번에 분석·재생성함으로써 급진적인 변이를 도입한다. 전역 연산은 Global‑Explore(새로운 히어스틱 생성)와 Global‑Enhance(기존 히어스틱 개선) 두 가지 서브 연산으로 나뉘며, 이는 진화 알고리즘의 ‘섬’ 구조와 유사하게 다양성을 유지하면서도 전체 성능을 빠르게 끌어올린다.

실험에서는 두 가지 대표적인 옵티마이저 설계 문제에 EvoStage를 적용했다. 첫 번째는 칩 배치 흐름에서 핵심인 Global Placement 단계에 사용되는 Adam 옵티마이저의 학습률 및 스텝 스케줄을 자동 설계한 경우이다. 기존 인간 전문가가 수 주에 걸쳐 튜닝하던 파라미터를 25회의 평가만으로도 기존 최고 기록을 넘어섰으며, 특히 논문에 제시된 두 개 오픈소스 벤치마크(예: ISPD‑2005, IBM‑DAC)에서 반감기선 길이(Half‑Perimeter Wire‑Length)를 모두 최적화했다. 상용 3D 배치 툴에 적용했을 때는 논리 다이의 HPWL을 9.24% 개선하고, 최적화 반복 횟수를 52.21% 감소시켜 산업 현장에 즉시 적용 가능한 수준을 입증했다.

두 번째는 베이지안 최적화의 획득 함수 설계이다. 기존에는 전문가가 설계한 EI, PI, UCB 등 고정된 함수에 의존했지만, EvoStage는 문제 특성(예: 탐색‑활용 균형, 다중 모달성)을 반영한 맞춤형 획득 함수를 단계별로 생성한다. 합성 함수와 NAS(Neural Architecture Search) 벤치마크에서 기존 최첨단 획득 함수보다 평균 4.7% 이상의 성능 향상을 달성했으며, 이는 LLM이 문제 도메인에 대한 깊은 이해를 단계별 피드백을 통해 축적했기 때문이다.

전체적으로 EvoStage는 (1) 설계 과정을 단계화해 LLM의 체인‑오브‑생각(Chain‑of‑Thought) 능력을 활용, (2) 실시간 중간 피드백으로 환각을 억제, (3) 다중 에이전트와 전역‑국부 메커니즘으로 탐색 다양성과 수렴 속도를 동시에 확보한다는 점에서 기존 FunSearch, AlphaEvolve, EoH, ReEvo와 차별화된다. 특히 산업 현장의 제한된 평가 예산과 고유한 도메인 특성을 고려한 설계가 가능하다는 점이 큰 강점이다.