자율 코딩 에이전트 기반 실행 인식 최적화 모델링 NEMO

초록

NEMO는 자연어로 기술된 의사결정 문제를 실행 가능한 수학 최적화 코드로 자동 변환하는 시스템이다. 원격 자율 코딩 에이전트(ACA)를 첫 번째 클래스 추상화로 활용해 코드 생성·실행·검증을 반복하고, 시뮬레이터‑옵티마이저 비대칭 검증 루프, 외부 메모리 기반 few‑shot 학습, 최소 베이즈 위험 디코딩·자기 일관성 기법을 결합한다. 9개의 벤치마크에서 8개에서 최첨단 성능을 달성하며, 실행 인식형 에이전트 아키텍처가 최적화 모델링 자동화에 큰 이점을 제공함을 입증한다.

상세 분석

NEMO의 핵심 혁신은 “자율 코딩 에이전트”(ACA)를 API 수준의 첫 번째 클래스 추상화로 도입한 점이다. 기존 LLM 기반 코드 생성 방식은 텍스트 출력에 머물러 syntactic 오류나 실행 불가능한 코드를 자주 생성한다. 반면 ACA는 샌드박스 환경에서 실제 코드를 실행하고, 실행 로그와 결과를 반환한다. 이 설계는 “코드가 실행 가능하도록 생성한다”는 보장을 제공하며, 실행 기반 피드백을 통해 즉시 오류를 탐지하고 자동 복구 루프를 수행한다.

시스템은 네 개의 주요 모듈로 구성된다. 첫 번째 모듈인 Decision Process Extractor는 자연어 설명을 구조화된 의사결정 프로세스(P)로 변환한다. 여기서는 MBR(최소 베이즈 위험) 디코딩과 LLM‑Judge 재랭킹을 결합한 하이브리드 방식을 사용한다. 다수의 후보 추출을 생성한 뒤, 각 구성 요소별 임베딩 유사도를 기반으로 유틸리티 점수를 산출하고, 가장 일관된 후보를 선택한다. 이 과정은 비결정적 LLM 출력의 변동성을 크게 감소시킨다.

두 번째 모듈인 Solver Recommender는 추출된 P와 사전 정의된 솔버 풀(SO)을 입력으로 받아, 문제 특성에 맞는 솔버와 설정을 순위화한다. 이는 문제 유형에 따라 MILP, CP, 강화학습 기반 솔버 등 최적의 백엔드를 자동 선택하도록 설계되었다.

세 번째 모듈인 Simulator는 P를 기반으로 실행 가능한 시뮬레이터 코드를 생성한다. 시뮬레이터는 제약 위반 여부와 목표 함수 값을 빠르게 평가하며, 옵티마이저가 만든 솔루션을 검증한다. 여기서 비대칭 검증 루프가 작동한다. 옵티마이저가 생성한 최적화 코드는 독립적인 ACA에서 실행되고, 그 결과는 시뮬레이터 ACA와 비교된다. 시뮬레이터가 오류를 감지하면 피드백이 옵티마이저에게 전달되어 반복적인 수정이 이루어진다.

네 번째 모듈인 Optimizer는 실제 최적화 모델 코드를 생성·정제한다. 이 단계에서도 MBR 디코딩과 자기 일관성(self‑consistency) 집계가 적용되어, 여러 후보 코드 중 가장 안정적인 구현을 선택한다.

또한 NEMO는 외부 메모리(벡터 스토어)를 활용해 OptMA​TH 데이터셋에서 3,000개의 대표 사례를 저장하고, 새로운 문제에 대해 유사도 기반 few‑shot 예시를 동적으로 제공한다. 이 메모리 검색은 문제 유형 다양성을 보장하고, 과도한 패턴 편향을 완화한다.

실험 결과는 9개의 공개 최적화 벤치마크(예: 배낭 문제, 일정 계획, 라우팅, 시설 위치 선정 등)에서 수행되었다. NEMO는 사전 학습된 일반 LLM(최신 모델이 아님)을 사용했음에도 불구하고, 8개 벤치마크에서 기존 최첨단 SOTA보다 절대 정확도 2~28%p 향상을 기록했다. 특히 복잡한 제약 구조를 가진 문제에서 시뮬레이터‑옵티마이저 검증 루프가 오류를 조기에 잡아내어 전체 파이프라인의 신뢰성을 크게 높였다.

NEMO가 제시하는 주요 교훈은 다음과 같다. (1) 실행 가능한 코드 생성은 단순 텍스트 기반 LLM보다 훨씬 높은 견고성을 제공한다. (2) 비대칭 검증(시뮬레이터 vs. 옵티마이저)이라는 구조적 피드백 메커니즘은 모델링 오류를 자동으로 교정한다. (3) MBR 디코딩과 자기 일관성은 비결정적 LLM 출력의 변동성을 억제하고, 최종 솔루션의 품질을 보장한다. (4) 외부 메모리 기반 few‑shot 학습은 도메인 다양성을 확보하면서도 프롬프트 길이 제한을 피한다. 전반적으로 NEMO는 “코드가 실행 가능하도록 설계된 에이전트”라는 새로운 패러다임을 제시하며, 최적화 모델링 자동화의 실용성을 크게 확장한다.