진화 알고리즘을 위한 자동 피트니스 함수 학습과 효율적 프로그램 합성

본 논문은 머신 프로그래밍(MP) 분야에서 자동 소프트웨어 생성 문제를 해결하기 위한 새로운 프레임워크인 NetSyn을 제안한다. MP는 입력‑출력 예시와 같은 사양을 만족하는 프로그램을 자동으로 생성하는 작업이며, 기존 접근법은 형식적 프로그램 합성, 순수 머신러닝, 혹은 두 방법의 결합으로 나뉜다. 특히 유전 알고리즘(GA)은 후보 프로그램을 진화시키는 직관적인 방법으로 알려져 있으나, 후보를 평가하는 피트니스 함수가 손수 설계되어야 한다는 큰 제약이 있었다. 기존에 많이 사용되는 편집 거리 기반 피트니스는 단일 오류가 전체 출력에 큰 변화를 일으키는 경우 부정확한 평가를 내리게 된다. NetSyn은 이 문제를 두 단계로 해결한다. 첫 번째 단계에서는 ‘오라클 피트니스 함수’를 근사하는 신경망 모델을 학습한다. 오라클 피트니스는 목표 프로그램과 후보 프로그램 사이의 완전한 일치 정도를 측정하는 이상적인 점수이며, 실제로는 알 수 없지만, 다수의 알려진 프로그램과 그 실행 트레이스를 이용해 라벨을 생성한다. 입력‑출력 예시와 프로그램 트레이스(함수 호출 순서)를 임베딩한 뒤, 다층 퍼셉트론 혹은 Transformer‑계열 모델을 통해 스칼라 점수를 예측하도록 학습한다. 손실은 평균 제곱 오차(MSE)를 사용하며, 모델은 다양한 DSL 프로그램에 대해 일반화하도록 설계된다. 두 번째 단계에서는 학습된 신경망 피트니스 함수를 GA의 적합도 평가에 직접 활용한다. NetSyn이 사용하는 DSL은 DeepCoder와 유사하게 정수와 정수 리스트만을 다루는 41개의 함수로 구성되며, 제어 흐름이 없고 모든 프로그램이 유효하도록 설계되었다. 후보 프로그램은 고정 길이 시퀀스로 인코딩되고, 교차와 돌연변이 연산 후에는 dead‑code elimination을 수행해 의미 없는 코드를 제거한다. GA는 매 세대 상위 20%의 후보를 그대로 보존하고, 나머지는 선택·교차·돌연변이 과정을 거쳐 새로운 세대를 만든다. NetSyn의 핵심 혁신은 ‘로컬 프로시미티 서치’이다. 일정 주기마다 현재 상위 N개의 후보를 선택하고, 그들의 근접 이웃(한두 단계 변형)을 탐색한다. 이 과정은 후보가 ‘거의 정답’일 때 미세 조정을 통해 정답 프로그램을 빠르게 발견하도록 돕는다. 로컬 서치는 추가적인 연산이 거의 없으며, 단순히 후보를 변형하고 NN‑FF를 재평가하는 정도로 구현된다. 또한 논문은 기존의 실행 시간 기반 효율성 측정 대신 ‘탐색 공간 크기’(검색된 후보 프로그램 수)를 새로운 메트릭으로 제시한다. 이는 구현 최적화에 의한 시간 차이를 배제하고, 알고리즘 자체의 탐색 효율성을 공정하게 비교할 수 있게 한다. 실험에서는 NetSyn을 기존 GA(수동 피트니스), 형식적 합성, 강화학습 기반 합성 등과 비교하였다. 동일한 후보 생성 횟수(예: 10⁵) 기준으로 NetSyn이 정답 프로그램을 찾는 비율이 2~3배 높았으며, 로컬 서치를 사용했을 때 평균 세대 수가 약 40% 감소하는 효과를 보였다. 특히 복잡도가 높은 문제일수록 NN‑FF와 로컬 서치의 시너지 효과가 두드러졌다. 하지만 논문에는 몇 가지 제한점이 있다. 첫째, 실험에 사용된 DSL이 비교적 단순하고 제어 흐름이 없기 때문에, 실제 프로그래밍 언어에 바로 적용하기는 어려울 수 있다. 둘째, 오라클 피트니스 라벨을 생성하기 위해 대규모 프로그램‑트레이스 데이터를 수집하고 학습해야 하는 비용이 존재한다. 셋째, 제안된 NN‑FF가 새로운 문제 영역에 일반화되려면 충분히 다양한 훈련 데이터가 필요하며, 데이터 부족 시 성능 저하가 우려된다. 결론적으로, NetSyn은 피트니스 함수 설계라는 오래된 병목을 데이터‑주도 학습으로 대체하고, 로컬 탐색을 결합해 GA 기반 프로그램 합성의 효율성을 크게 향상시킨다. 향후 연구에서는 보다 복잡한 DSL 확장, 오라클 라벨링 비용 절감을 위한 메타‑러닝, 그리고 실제 소프트웨어 프로젝트에 대한 대규모 평가가 필요하다.