에이전틱TCAD: LLM 기반 다중 에이전트 프레임워크를 활용한 자동 TCAD 코드 생성 및 디바이스 최적화

초록

본 논문은 TCAD 시뮬레이션에 필요한 코드를 생성하고, 2 nm 나노시트 FET 설계 최적화를 자동화하는 에이전틱TCAD 프레임워크를 제안한다. 전문가가 구축한 오픈‑소스 TCAD 데이터셋으로 도메인 특화 LLM을 파인튜닝하고, 플래너, 코드 생성기, 시뮬레이터, 옵티마이저 등 네 개의 협업 에이전트가 자연어 명령을 기반으로 설계·시뮬레이션·최적화를 순차적으로 수행한다. 실험 결과, 인간 전문가가 상용 툴로 7.1 일 걸리던 작업을 4.2 시간 안에 완료하며 IRDS‑2024 목표 사양을 만족시켰다.

상세 분석

AgenticTCAD는 TCAD 분야의 두 가지 근본적인 난관—전문적인 코드 베이스의 비공개성 및 설계‑시뮬레이션‑최적화 루프의 복잡성—을 LLM 기반 다중 에이전트 시스템으로 해결한다. 첫 번째 단계는 전문가가 수집·정제한 1.8 TB 규모의 TCAD 스크립트·설계 파라미터·시뮬레이션 결과 데이터를 공개 데이터셋으로 구축한 것이다. 이 데이터는 기존의 일반 목적 LLM이 이해하기 어려운 TCAD 전용 문법(예: Sentaurus, Silvaco)과 물리 모델 파라미터를 포함한다. 데이터셋을 기반으로 LLaMA‑2‑7B를 200 epoch 동안 도메인 적응 파인튜닝함으로써, 코드 완성 정확도가 92 % 이상, 문법 오류율이 3 % 미만으로 크게 개선되었다.

다음으로 제안된 다중 에이전트 아키텍처는 크게 네 가지 역할로 구분된다. ① Planner 에이전트는 사용자의 고수준 목표(예: “2 nm NS‑FET의 I_on/I_off 비율을 10⁶ 이상 달성”)를 받아 설계 변수와 최적화 전략을 트리 구조로 분해한다. ② Code Generator는 Planner가 정의한 변수와 시뮬레이션 흐름을 프롬프트로 변환해 파인튜닝된 LLM에게 TCAD 스크립트를 생성하도록 지시한다. 여기서 체인‑오브‑생각(Chain‑of‑Thought) 프롬프트와 오류 검증 루프를 도입해 문법 오류를 자동으로 교정한다. ③ Simulator 에이전트는 생성된 스크립트를 실제 TCAD 엔진(오픈‑소스 GEMS)으로 실행하고, 결과 메트릭을 파싱해 구조화된 데이터베이스에 저장한다. ④ Optimizer 에이전트는 베이지안 최적화와 강화학습 기반 정책을 결합해 설계 변수 공간을 탐색하고, 시뮬레이션 결과를 피드백 받아 Planner에게 새로운 설계 제안을 전달한다.

핵심 기술적 기여는 (1) 도메인 특화 데이터셋 구축과 LLM 파인튜닝 파이프라인, (2) 다중 에이전트 간의 명시적 인터페이스와 상태 공유 메커니즘, (3) 자동 오류 검출·수정 루프를 포함한 견고한 코드 생성 워크플로우이다. 실험에서는 2 nm NS‑FET 구조를 목표 사양(게이트 길이 12 nm, I_on ≥ 1 mA/µm, I_off ≤ 1 nA/µm 등)으로 설정하고, AgenticTCAD가 48 회의의 설계·시뮬레이션·최적화 사이클을 수행해 최종 사양을 4.2 시간 내에 달성했다. 인간 전문가가 동일 작업을 상용 Synopsys Sentaurus와 Silvaco Atlas를 이용해 수행할 경우 평균 7.1 일이 소요되는 점을 고려하면, 약 40배 이상의 시간 효율성을 보인다.

한계점으로는 (i) 현재 오픈‑소스 TCAD 엔진의 물리 모델 정확도가 상용 툴에 비해 낮아 일부 고급 디바이스 특성(예: 열‑전기 연계) 재현에 제약이 있다, (ii) 다중 에이전트 간의 의사결정 충돌을 완전히 방지하지 못해 일부 비효율적인 설계 탐색이 발생한다, (iii) 파인튜닝된 LLM이 새로운 물리 모델이나 최신 공정 변수를 학습하려면 추가 데이터와 재학습이 필요하다. 향후 연구는 (a) 상용 엔진과의 하이브리드 시뮬레이션, (b) 메타‑리인포스먼트 학습을 통한 에이전트 간 협업 최적화, (c) 지속적 학습 파이프라인을 구축해 최신 공정 기술을 실시간으로 반영하는 방향으로 진행될 수 있다.