인도 AI 안전을 위한 ASTRA: 맞춤형 위험 데이터베이스와 정책 프레임워크

초록

본 논문은 기존 글로벌 AI 안전 기준이 인도의 언어·사회·인프라 특성을 반영하지 못한다는 문제를 지적하고, 설계 결함에서 비롯되는 위험을 체계적으로 분류한 ASTRA(AI Safety Risk Assessment) 데이터베이스와 37개의 위험 클래스를 제시한다. 교육·금융 대출 분야를 시범 적용해 인도 맞춤형 위험 프레임워크의 실효성을 검증한다.

상세 분석

ASTRA는 “설계 결함에 기인한 AI 안전 위험(ASR)”을 중심으로 위험을 정의하고, 이를 개발·배포·사용 단계, 위험 주체(시스템·사용자), 의도(우발·고의)라는 세 축의 인과적 분류 체계에 매핑한다. 이러한 삼중 인과 분류는 기존의 MIT AI Risk Repository가 제시한 Causal taxonomy와 유사하지만, 인도 특유의 ‘카스트·언어·인프라’ 위험을 별도 메타카테고리(사회적 위험, 최전선·사회구조적 위험)로 확장한다는 점에서 차별화된다.

논문은 위험을 “새 버전 배포로 완화 가능”하다는 ‘remediability heuristic’를 제시해, 설계 단계에서의 데이터 편향·가드레일 부재 등을 기술적 개선으로 해결할 수 있음을 강조한다. 이는 위험을 확률·심각도만이 아니라 ‘완화 가능성’으로도 평가하는 새로운 평가 패러다임을 제공한다.

교육과 금융 대출이라는 두 도메인을 선택한 이유는, 각각 대규모 사용자 기반과 민감한 사회경제적 영향을 갖는 점이다. 교육 분야에서는 지역 방언 미인식으로 인한 학습 자료 접근 차별, 금융 대출에서는 신용 점수 산정에 사용되는 데이터가 카스트·지역 편향을 내포할 위험을 구체적으로 제시한다. 이러한 사례는 ASTRA가 실제 정책·시스템 설계에 바로 적용될 수 있음을 보여준다.

또한 논문은 EU AI Act, 싱가포르 Model AI Governance Framework, UNESCO 윤리 가이드 등 기존 국제 프레임워크를 비교 분석하면서, 인도의 낮은 디지털 문해력, 다언어 환경, 공공 부문의 제한된 역량 등을 고려한 맞춤형 규제 설계 필요성을 역설한다. 특히 외국 API 의존성, 디지털 공공재(DPG) 중심의 배포 모델, 비공식 경제 규모 등을 위험 요소로 포함시킨 점은 기존 서구 중심 모델에서 간과된 부분이다.

한계점으로는 현재 ASTRA가 실증 데이터베이스 구축 단계에 머물러 있어, 위험 발생 빈도와 심각도에 대한 정량적 측정이 부족하다는 점을 들 수 있다. 또한 ‘시스템적 위험(예: 노동 시장 충격)’을 별도 범주로 배제함으로써, 장기적인 사회적 파급 효과를 완전히 포괄하지 못한다는 비판도 가능하다. 향후 위험 데이터의 지속적 업데이트와 정책 피드백 루프 구축이 필요하다.

전반적으로 ASTRA는 인도형 AI 안전 거버넌스의 초석을 놓는 실증 기반 위험 분류 체계이며, 설계‑배포‑사용 전 단계에서의 위험 식별·완화 메커니즘을 제시함으로써, 기술 혁신과 규제 균형을 맞추려는 정책 입안자와 개발자에게 실용적인 도구를 제공한다.