제어된 자기진화 기반 알고리즘 코드 최적화

초록

본 논문은 초기 편향과 무작위 진화 연산, 경험 재활용 부족으로 인한 탐색 효율 저하 문제를 해결하고자, 다양화된 초기 계획, 피드백 기반 유전 연산, 계층적 진화 메모리를 결합한 Controlled Self‑Evolution(CSE) 프레임워크를 제안한다. CSE는 알고리즘 코드 생성 시 다양한 전략 스케치를 초기 개체군으로 활용하고, 기능 분해와 목표 변이를 통해 효율적인 변이를 수행하며, 성공·실패 경험을 로컬·글로벌 메모리에 축적·재활용한다. EffiBench‑X 벤치마크와 여러 LLM 백본에서 CSE는 정답률과 시간·공간 복잡도 모두에서 기존 자기진화 기법을 크게 앞섰으며, 초기 세대부터 높은 효율성을 보였다.

상세 분석

본 연구는 코드 생성 LLM이 “정답은 맞지만 비효율적”이라는 한계를 극복하기 위해 탐색 효율성을 근본적으로 재설계한다. 첫 번째 핵심은 Diversified Planning Initialization이다. 기존 자기진화 방식은 단일 혹은 소수의 초기 솔루션에 의존해 탐색 공간을 국소적으로만 커버한다. 저자는 문제 정의 x에 대해 서로 다른 알고리즘적 패러다임(예: 그리디, DP, 비트 연산 등)을 스케치(z) 형태로 다수 생성하고, 이를 완전한 코드(y)로 인스턴스화함으로써 초기 개체군 P₀를 다중 모드로 만든다. 이는 초기 편향을 크게 완화하고, 여러 유망 영역을 병렬 탐색할 수 있게 한다.

두 번째 핵심은 Genetic Evolution이다. 무작위 변이·교차 대신, (1) 기능 분해를 통해 코드 y를 독립적인 컴포넌트 {c₁,…,c_m}로 나누고, (2) 피드백 기반 타깃 변이(Controlled Mutation)를 적용한다. 즉, 실행·테스트 결과에서 가장 큰 보상 감소를 일으킨 컴포넌트를 식별하고, 해당 부분만 재생성한다. 이는 전체 코드 구조를 파괴하지 않으면서도 오류 수정 효율을 극대화한다. 또한, Compositional Crossover는 텍스트 수준의 단순 결합이 아니라, “시간 효율적인 컴포넌트”와 “안정성 높은 컴포넌트”를 논리적으로 교체·조합한다. 이러한 연산은 인간 프로그래머가 서로 다른 솔루션의 장점을 취합하는 방식과 일치하여, 탐색 방향을 명시적으로 제어한다.

세 번째 핵심은 Hierarchical Evolution Memory이다. 로컬 메모리(M_loc)는 각 진화 단계에서 보상 변화 Δ를 기반으로 성공 인사이트와 실패 레슨을 압축 저장한다. 압축된 경험은 다음 프롬프트에 삽입돼, 모델이 동일한 오류를 반복하지 않도록 가이드한다. 글로벌 메모리(M_glb)는 태스크 수준에서 상위 K개의 긍정·부정 경험과 최적 솔루션 y*를 벡터 DB에 저장한다. 현재 진화 단계에서 생성된 질의(q)와 유사도 검색을 통해 관련 경험을 회수하고, 이를 컨텍스트에 결합함으로써 태스크 간 전이 학습을 가능하게 한다. 메모리 압축·검색 메커니즘은 경험 부피가 급증하는 것을 방지하면서도, 필요한 정보를 정확히 제공한다.

실험에서는 최신 LLM 백본(예: GPT‑4o, DeepSeek‑Coder 등)과 EffiBench‑X라는 알고리즘 효율성 벤치마크를 사용했다. CSE는 모든 베이스라인(AlphaEvolve, SE‑Agent, AfterBurner 등)을 평균 12%18% 높은 복합 보상(F_correctness + efficiency)으로 앞섰으며, 특히 초기 35세대에서 급격히 성능이 상승했다. 이는 다양화된 초기화와 피드백 기반 변이가 탐색 초기 비용을 크게 절감함을 의미한다. 또한, CSE는 동일 예산 하에 최종 솔루션의 시간·공간 복잡도가 인간 전문가 수준에 근접하거나 이를 초과하는 경우가 다수 관찰되었다.

한계점으로는 (1) 스케치 단계에서의 프롬프트 설계가 LLM에 크게 의존해, 모델 성능이 낮을 경우 다양성이 충분히 확보되지 않을 수 있다. (2) 메모리 압축 및 검색 비용이 대규모 태스크 풀에서는 여전히 비례적으로 증가한다. (3) 현재는 정적 보상 함수 F에 의존하므로, 멀티‑목표(예: 코드 가독성, 유지보수성) 최적화에는 추가 설계가 필요하다. 향후 연구에서는 자동 스케치 생성, 메모리‑경량화 기법, 그리고 멀티‑목표 강화학습과의 통합을 통해 CSE의 적용 범위를 확대할 수 있을 것이다.