AI 생성 코드 보안을 위한 이벤트 기반 검증 아키텍처 ESAA Security

초록

ESAA‑Security는 에이전트가 수행하는 보안 감사 과정을 이벤트 소싱과 검증 가능한 상태 재구성으로 구조화한다. 네 단계(정찰, 도메인 감사, 위험 분류, 최종 보고)와 26개의 작업, 16개의 보안 도메인, 95개의 체크를 통해 AI‑생성 혹은 AI‑수정 코드의 취약점을 체계적으로 탐지·분류·보고한다. 모든 에이전트 출력은 계약에 따라 구조화된 의도 형태로 기록되며, 불변 로그와 재생 검증을 통해 감사 결과의 추적성·재현성을 보장한다.

상세 분석

ESAA‑Security는 기존 LLM 기반 보안 리뷰가 안고 있던 “프롬프트‑대화식” 접근의 한계를 근본적으로 재설계한다. 핵심 아이디어는 에이전트의 휴리스틱 판단을 순수히 이벤트 형태로 격리하고, 오케스트레이터가 이를 검증·저장함으로써 상태 변이를 결정론적으로 관리하는 것이다. 이를 위해 논문은 다음과 같은 기술적 메커니즘을 제시한다.

1. 이벤트 소싱 & CQRS: 모든 감사 행위(작업 청구, 검증 증거 제출, 결과 기록 등)는 불변 이벤트 로그에 기록된다. 현재 감사 상태는 이 로그를 재생(replay)하여 파생된 뷰(view)로 구성되며, 이는 언제든지 동일한 입력으로 동일한 상태를 재현할 수 있음을 의미한다. 이는 기존 LLM이 “대화 흐름”에 의존해 결과가 변동하는 문제를 해결한다.

2. 계약 기반 구조화 출력: 에이전트는 사전 정의된 JSON 스키마에 맞는 “의도(intent)”만을 발행한다. 오케스트레이터는 스키마 검증, 상태 전이 규칙(예: claim‑before‑work, complete‑after‑work 등) 및 소유권 검증을 수행하고, 위반 시 즉시 거부한다. 이 “fail‑closed” 정책은 악의적 혹은 실수에 의한 로그 오염을 방지한다.

3. 4단계 감사 파이프라인:

   • Reconnaissance 단계에서는 기술 스택, 데이터 흐름, 공격 표면을 자동 탐지하고 메타데이터를 이벤트로 기록한다.
   • Domain Audit Execution 단계에서는 16개 보안 도메인(인증, 권한, 입력 검증, 비밀 관리, 공급망 등)별로 95개의 구체적 체크를 실행한다. 각 체크는 “검사 ID, 상태, 증거, 심각도, 권고”를 포함한 구조화된 결과를 생성한다.
   • Risk Classification 단계에서는 개별 체크 결과를 취합해 취약점 인벤토리와 CIA(기밀성·무결성·가용성) 기반 심각도 매트릭스를 만든다. 위험 행렬은 비즈니스 영향과 수정 우선순위를 시각화한다.
   • Final Reporting 단계에서는 기술적 수정 가이드, 베스트 프랙티스 요약, 경영진용 요약(보안 점수 0‑100) 등을 자동 생성하고, 최종 마크다운·JSON 보고서를 출력한다.

4. 재생 검증 & 해싱: 로그에 기록된 모든 이벤트는 해시 체인으로 연결돼 변조 방지를 제공한다. 감사 종료 시, 오케스트레이터는 전체 로그를 재생해 현재 뷰와 최종 보고서가 일치함을 검증한다. 이는 “감사 결과는 로그에 의해 자동 증명된다”는 강력한 보증을 만든다.

5. AI‑특화 위험 도메인: 기존 OWASP Top 10·ASVS와 별개로 “AI/LLM 보안” 도메인을 도입해 프롬프트 주입, 모델 탈취, 데이터 유출 등 AI 특유의 위협을 체크한다. 이는 AI‑생성 코드가 급증하는 현재 상황에 필수적인 확장이다.

6. 평가 설계: 논문은 세 가지 연구 질문(RQ1‑RQ3)을 제시하고, 이벤트‑소스 실행 모델의 재현성, 구조화된 감사 프로세스의 실현 가능성, 결과물의 실무적 유용성을 다각도로 검증할 계획을 제시한다. 평가 지표는 프로토콜 준수, 재생 검증 무결성, 커버리지 완전성, 산출물 완전성, 위험 보고서 유용성 등 다섯 축으로 구성된다.

핵심 인사이트는 “보안 감사는 LLM의 자유로운 텍스트 출력이 아니라, 계약·이벤트·재생 검증으로 정의된 상태 전이의 연속이다”는 점이다. 이를 통해 감사 결과의 추적성, 재현성, 객관성을 확보하고, AI‑생성 코드가 내포한 새로운 위험까지 포괄적으로 다룰 수 있다. 또한, 이벤트 기반 설계는 감사 파이프라인을 다른 도메인(예: 규정 준수, 품질 검사)에도 쉽게 확장할 수 있는 기반을 제공한다.