구조화와 상태인식 그리고 실행기반 소프트웨어 엔지니어링 에이전트

초록

본 논문은 현재 LLM 기반 소프트웨어 엔지니어링(SE) 에이전트가 대화 이력에만 의존하는 반응형 설계로 인해 장기 추론에 한계를 보인다는 문제를 지적한다. 저자는 에이전트가 명시적인 구조, 지속 가능한 상태 표현, 그리고 실행 피드백을 통합한 “구조화·상태인식·실행기반” 추론 모델로 전환해야 한다고 주장하고, 이를 위한 로드맵을 제시한다.

상세 분석

논문은 먼저 기존 SE 에이전트가 “반응형”으로 동작한다는 점을 정의한다. 여기서 반응형이란 최신 프롬프트와 대화 히스토리만을 입력으로 사용하고, 내부에 명시적인 메모리 구조나 상태 모델을 유지하지 않는 방식을 의미한다. 이러한 설계는 두 가지 근본적인 결함을 초래한다. 첫째, 장기 작업에서 과거 가설이나 가정이 사라져 일관성 없는 결과가 발생한다. 둘째, 실행 피드백(테스트 결과, 로그 등)이 단순 텍스트로 전달돼 이전 가정과 연결되지 않아 의미 있는 학습이 어렵다. 저자는 이를 “상태(state)”, “가설(hypothesis)”, “구조(structure)”라는 세 개념으로 구분한다. 상태는 에이전트가 현재 시스템에 대해 가지고 있는 구조화된 이해(예: 의존 관계, 불변식)이며, 가설은 특정 단계에서 세운 임시 추론이다. 구조는 이러한 상태와 가설을 어떻게 저장·연결·갱신할지를 정의한다.

핵심 제안은 에이전트가 명시적인 중간 표현을 도입해 현재 코드 베이스, 의존성, 가정, 전후 조건 등을 구조화된 형태(예: 유한 상태 머신, 그래프, 테이블)로 유지하도록 하는 것이다. 이렇게 하면 각 도구 호출 후 피드백을 직접 해당 가설이나 상태 요소에 매핑할 수 있다. 예를 들어, 실패한 테스트가 특정 불변식 위반을 나타내면, 에이전트는 해당 불변식을 수정하거나 새로운 가설을 생성한다. 이러한 과정은 “추론을 상태의 진화”로 보는 관점과 일치한다.

또한, 저자는 기존의 “전체 프롬프트 재구성” 방식이 비효율적이며 오류 전파를 야기한다는 점을 실증 연구와 사례를 통해 강조한다. 대신, 상태 기반 재검증을 통해 오류가 발생한 단계만 재실행하거나, 상태 그래프에서 문제 노드를 직접 찾아 수정할 수 있다. 이는 메모리 비용을 절감하고, 동일한 오류 반복을 방지한다.

로드맵에서는 (1) 구조화된 상태 저장소 설계, (2) 상태와 실행 피드백을 연결하는 인터페이스 표준화, (3) 상태 기반 자기 검증 및 오류 복구 메커니즘 구현, (4) 기존 SE 도구와의 원활한 연동을 위한 API 정의 네 단계로 구체화한다. 특히, 상태 저장소는 벡터 스토어와 달리 논리적 관계와 제약 조건을 보존해야 하며, 이를 위해 도메인 특화 스키마와 추론 엔진이 필요하다고 제안한다.

전반적으로 논문은 SE 에이전트가 인간 개발자의 사고 과정을 모방하기 위해서는 “구조화·상태인식·실행기반”이라는 세 축을 갖춘 새로운 아키텍처가 필수이며, 이를 위한 연구 방향을 체계적으로 제시한다.