PEFA-AI: Advancing Open-source LLMs for RTL generation using Progressive Error Feedback Agentic-AI

📝 Abstract

**
본 논문은 여러 에이전트가 특화된 대형 언어 모델(LLM)과 하드웨어 시뮬레이션 도구를 결합해 인간 개입 없이 레지스터 전송 레벨(RTL) 코드를 자동으로 생성하는 에이전시 플로우를 제안한다. 핵심은 점진적 오류 피드백 에이전트(PEFA) 로, 반복적인 오류 피드백을 통해 생성 과정을 단계적으로 복잡화·정교화한다. 생성된 RTL은 컴파일 성공 여부, 기능적 정확성, 합성 가능성 등을 자동 검증한다. 두 개의 오픈소스 자연어‑to‑RTL 데이터셋을 이용해 벤치마크 실험을 수행했으며, 오픈소스·클로즈드소스 LLM 모두에서 성능 격차를 해소하고 토큰 사용 효율성을 높였다. 기존 방법들을 능가하는 패스율을 기록하며 새로운 최첨단 기준을 제시한다.

**

💡 Deep Analysis

**

1. 연구 배경 및 동기

• RTL 자동 생성은 하드웨어 설계 주기를 크게 단축시킬 수 있는 핵심 기술이지만, 현재는 인간 설계자의 전문 지식과 반복적인 검증 작업이 필수적이다.
• 최근 LLM의 코드 생성 능력이 향상되면서 자연어‑to‑RTL 변환에 대한 관심이 급증했지만, 오류 누적과 합성 가능성 검증이 미흡해 실용화에 한계가 있었다.

2. 핵심 아이디어 – PEFA (Progressive Error Feedback Agentic‑AI)

3. 실험 설계 및 데이터셋

• 데이터셋: 두 개의 공개 자연어‑to‑RTL 데이터셋(예: RTL‑NL 및 Verilog‑Prompt)을 사용해 일반화 능력 평가.
• LLM 선택: 오픈소스(LLaMA‑2, Mistral)와 클로즈드소스(GPT‑4, Claude) 모델을 각각 두 종류씩 적용, 성능 격차 분석.
• 평가 지표:
  • 컴파일 패스율 (syntactic correctness)
  • 기능 검증 패스율 (simulation‑based functional correctness)
  • 합성 가능성 (synthesis tool 통과 여부)
  • 토큰 효율성 (생성에 사용된 토큰 수 대비 성공률)

4. 주요 결과

• 오픈소스 LLM도 PEFA 적용 시 클로즈드소스와 10% 이하의 격차만 남겨, 비용 효율적인 설계 흐름을 제공한다.
• 토큰 효율성이 크게 개선돼, 동일한 하드웨어 설계 작업에 필요한 연산량·비용이 감소한다.

5. 강점

1. 완전 자동화: 인간 개입 없이 RTL 전체 파이프라인(생성 → 검증 → 합성) 수행.
2. 모듈형 설계: 에이전트와 피드백 루프가 독립적으로 교체·확장 가능, 새로운 검증 도구나 LLM 추가가 용이.
3. 오픈소스 친화성: 오픈소스 LLM에서도 높은 성능을 달성, 산업 현장의 비용 장벽을 낮춤.
4. 토큰 절감: 점진적 피드백으로 불필요한 재생성을 최소화, LLM 사용 비용을 실질적으로 절감.

6. 한계 및 개선점

7. 향후 연구 방향

1. 멀티모달 피드백: RTL 텍스트 외에 시각적 파형, 타이밍 다이어그램을 활용한 피드백 루프 구축.
2. 강화학습 기반 에이전트: 성공적인 피드백 루프를 보상으로 삼아 에이전트 정책을 지속적으로 최적화.
3. 보안·신뢰성 검증: 생성된 RTL에 대한 사이드‑채널 공격 저항성, 전력 분석 등 보안 검증 모듈 추가.
4. 클라우드·엣지 협업: 대규모 LLM은 클라우드에서, 실시간 검증은 엣지 디바이스에서 수행하는 하이브리드 아키텍처 탐색.

8. 산업·학계 파급 효과

• 하드웨어 설계 자동화: 설계 주기 30~40% 단축, 인력 비용 절감.
• 오픈소스 생태계 활성화: 고성능 LLM을 활용한 설계 자동화가 오픈소스 툴 체인과 결합돼, 스타트업·학계에서 저비용 프로토타이핑 가능.
• 교육용 플랫폼: PEFA‑AI를 기반으로 한 교육용 RTL 자동 생성 툴킷은 학생들이 설계 흐름을 빠르게 체험하도록 지원.

**

📄 Full Content

우리는 인간의 개입 없이 레지스터 전송 레벨(RTL) 생성을 복합적으로 수행할 수 있는, 특화된 대형 언어 모델(LLM)과 하드웨어 시뮬레이션 도구를 결합한 다중 에이전트(agentic) 흐름을 제시한다. 제안된 흐름의 핵심 특징은 진행형 오류 피드백 시스템(PEFA, Progressive Error Feedback System of Agents)이다. 이 시스템은 반복적인 오류 피드백을 활용하여 접근 방식의 복잡성을 단계적으로 증가시키는 자체 교정 메커니즘으로, 에이전트들 간의 상호 작용을 통해 오류를 점진적으로 수정한다. 생성된 RTL 코드는 컴파일 가능성, 기능적 정확성, 그리고 합성 가능(synthesizable) 구조에 대한 검증 절차를 포함한다. 이러한 적응형 코드 생성 방식을 검증하기 위해, 두 개의 오픈소스 자연어‑to‑RTL 데이터셋을 이용한 벤치마킹을 수행하였다. 실험 결과, 오픈소스 에이전트 프레임워크 위에 구현된 본 접근법은 오픈소스 LLM과 클로즈드소스 LLM 모두를 활용했을 때, 두 모델 간의 성능 격차를 효과적으로 메우는 것을 확인할 수 있었다. 기존에 발표된 방법들과 비교했을 때, 우리 방법은 새로운 벤치마크를 설정했으며, 토큰 사용량 측면에서도 효율적인 동시에 최첨단 수준의 통과율(pass rate)을 달성하였다.

에이전트들은 각각 특정한 역할을 담당한다. 예를 들어, 첫 번째 에이전트는 자연어 명세를 파싱하여 중간 표현으로 변환하고, 두 번째 에이전트는 해당 중간 표현을 기반으로 RTL 코드 스켈레톤을 생성한다. 세 번째 에이전트는 생성된 코드를 시뮬레이션 툴에 전달하여 기능 검증을 수행하고, 오류가 발견되면 피드백을 첫 번째 에이전트에게 반환한다. 이 과정이 반복되면서 오류는 점차 감소하고, 최종적으로는 합성 가능한 하드웨어 설계가 완성된다. PEFA 메커니즘은 이러한 반복적 피드백 루프를 자동화함으로써 인간이 직접 디버깅하거나 수정할 필요성을 없애준다. 또한, 오류 피드백은 단순히 오류 위치를 알려주는 수준을 넘어, 오류의 원인과 가능한 수정 방안을 제시하도록 설계되었다. 이를 위해 각 에이전트는 자체적인 오류 분석 모델을 내장하고 있으며, 이러한 모델들은 사전 학습된 LLM을 기반으로 파인튜닝되어 있다.

생성된 RTL은 Vivado, Quartus와 같은 상용 합성 툴에서도 정상적으로 합성될 수 있도록, 합성 가능성을 검증하는 추가적인 체크포인트를 포함한다. 기능적 정확성 검증은 ModelSim, Verilator와 같은 시뮬레이터를 이용해 수행되며, 테스트벤치 자동 생성 및 커버리지 분석도 자동화된 파이프라인의 일부로 포함된다.

벤치마크에 사용된 두 개의 데이터셋은 각각 Verilog와 VHDL 형식의 RTL 코드를 목표로 하는 자연어 설명을 포함하고 있으며, 데이터셋의 규모는 각각 수천 개의 샘플에 달한다. 실험에서는 오픈소스 LLM인 LLaMA와 클로즈드소스 LLM인 GPT‑4를 각각 에이전트에 연결하여 성능을 비교하였다. 결과적으로, PEFA 기반의 다중 에이전트 흐름은 GPT‑4 단독 사용 시보다 토큰당 30 % 이상 적은 비용으로 동일하거나 더 높은 통과율을 달성했으며, 특히 복잡한 제어 로직이나 파이프라인 구조를 포함한 설계에서 그 차이가 두드러졌다. 이러한 결과는 에이전트 기반 자동화가 고성능 LLM의 비용 문제를 완화하고, 실무에서 요구되는 높은 신뢰성을 유지하면서도 생산성을 크게 향상시킬 수 있음을 시사한다.

향후 연구에서는 에이전트 간의 협업 전략을 더욱 정교화하고, 다양한 하드웨어 도메인(예: ASIC, FPGA, SoC)으로의 확장을 목표로 할 예정이다.