에이전트크립트 AI 에이전트 협업을 위한 프라이버시와 안전한 계산 진화

초록

AgentCrypt은 AI 에이전트 간의 데이터 교환·연산에 대해 3단계 보안 레이어를 제공한다. 1단계는 무제한 평문 교환, 2단계는 정책 기반 암호화된 조회, 3단계는 동형암호를 활용한 정책 기반 연산을 지원한다. 암호화·정책 적용을 에이전트 로직과 독립적으로 구현해, LLM의 확률적 오류가 발생해도 민감 데이터는 절대 노출되지 않도록 설계되었다.

상세 분석

본 논문은 AI 에이전트가 실시간으로 민감 정보를 다루는 상황에서 기존 접근 제어가 “접근 후” 발생하는 프라이버시 침해를 방지하지 못한다는 근본적인 한계를 짚고 있다. 특히 LLM 기반 에이전트는 확률적 추론에 의존하므로, 특정 쿼리에 대해 오류가 발생하거나 악의적인 행동을 할 경우 데이터 유출 위험이 존재한다. AgentCrypt은 이러한 위험을 “데이터 레이블링 → 정책 적용 → 암호화/동형연산”이라는 결정적 파이프라인으로 격리함으로써, 에이전트가 어떤 잘못된 판단을 하더라도 암호화된 형태로만 결과를 전달하도록 보장한다.

세부적으로는 다음과 같은 기술적 기여가 돋보인다.

1. 3‑Tier 프레임워크: 레벨 1은 기존 시스템과 동일하게 평문 교환을 허용하지만, 레벨 2와 레벨 3에서는 각각 정책 기반 IBE(Identity‑Based Encryption)와 FHE(Fully Homomorphic Encryption)를 적용한다. 레벨 2에서는 데이터 셀마다 정책과 키를 매핑해, 조회 시 자동 암호화·전송을 수행한다. 레벨 3에서는 “출력 정책 = 입력 정책 교집합” 원칙을 적용해, 연산 결과가 어느 주체에게도 과도한 정보가 노출되지 않도록 한다.

2. Deterministic Security Wrapper: 에이전트의 추론 로직과 무관하게 동작하는 보안 래퍼를 도입해, 함수 f에 대한 호출 결과가 반드시 사전에 정의된 정책에 따라 암호화되도록 강제한다. 이는 에이전트가 잘못된 셀을 선택하거나 악의적인 연산을 시도하더라도, 암호화된 형태로만 반환되므로 실질적인 데이터 유출을 차단한다.

3. 정책 기반 연산 모델: 입력 데이터마다 개별 정책을 부여하고, 연산 결과에 대한 정책을 교집합으로 자동 산정한다. 논문은 조건부 질의에 의한 추론 공격을 방지하기 위해 “조건부 반환을 암호화된 형태로만 제공”하는 메커니즘을 제시한다. 이는 기존 접근 제어가 “누가 무엇을 볼 수 있는가”에만 초점을 맞추던 한계를 넘어, “연산 결과 자체가 누가 접근 가능한가”까지 포괄한다.

4. 플랫폼 독립성 및 구현: LangGraph와 Google ADK 위에 AgentCrypt을 구현해, A2A(Agent‑to‑Agent) 프로토콜과 결합하였다. 구현 시 IBE는 Boneh‑Franklin 방식을, FHE는 OpenFHE 라이브러리를 활용했으며, 실험 결과 레벨 3 시나리오에서 85 % 이상 정확도로 적절한 데이터·툴을 선택하면서도 100 % 프라이버시 보장을 확인했다.

5. 벤치마크 데이터셋: 규제(예: GDPR, HIPAA, FCRA 등)와 연계된 프라이버시‑주석이 달린 에이전트‑에이전트 대화 시나리오를 구축했다. 각 시나리오는 레벨 1‑3 전부를 포괄하도록 설계돼, 성능·프라이버시·연산 오버헤드 간 트레이드오프를 정량화할 수 있다.

이러한 설계는 “프라이버시 우선, 정확도는 부수적”이라는 원칙을 명시적으로 구현한다는 점에서 기존 연구와 차별화된다. 특히, 암호화·정책 적용을 에이전트 로직과 완전히 분리함으로써, LLM이 제공하는 확률적 추론 결과가 보안에 미치는 영향을 이론적으로 0에 가깝게 만든다. 다만, 레벨 3에서 동형암호 연산의 계산 비용이 여전히 높은 편이며, 정책 관리·키 배포 인프라가 복잡해질 수 있다는 실용적 한계도 논문에서 언급한다.