AI 에이전트의 사회·법·윤리·공감·문화 규범 구현 로드맵

초록

본 논문은 의료·법 집행 등 고위험 분야에 적용되는 AI 에이전트를 위해 사회·법·윤리·공감·문화(SLEEC) 규범을 구체적이고 검증 가능한 요구사항으로 전환하는 체계적 프로세스를 제시한다. 5단계 운영화 절차와 현재 활용 가능한 도구·기법을 조사하고, 남아 있는 연구·정책 과제를 도출한다.

상세 분석

논문은 먼저 기존 국제 AI 거버넌스 프레임워크(UNESCO, OECD, IEEE, EU AI Act 등)가 고수준 원칙만 제공하고, 실제 시스템에 적용하기엔 추상적이라는 문제점을 짚는다. 이를 해결하기 위해 저자들은 SLEEC‑norm operationalisation이라는 개념을 도입하고, AI 개발 라이프사이클 전반에 걸친 5단계 프로세스를 설계한다.

1️⃣ Capability Specification(능력 정의) 단계에서는 센서·액추에이터, 데이터 접근, API 등 기술적 능력을 식별하고, 해당 능력이 어떤 SLEEC 규범과 연결되는지를 매핑한다. 예를 들어 카메라 사용은 프라이버시 규범을, 응급 호출 기능은 ‘돌봄 의무’를 촉발한다.

2️⃣ Requirements Elicitation(요구사항 도출) 단계에서는 이해관계자 워크숍, 윤리·법률 전문가 인터뷰 등을 통해 고수준 원칙을 ‘프록시’(예: 인간 자율성을 위한 동의 획득)로 전환하고, 이를 DSL 형태의 규칙(id when trigger