신뢰를 도구가 아닌 관계로: AI 윤리의 새로운 운영 방안

초록

이 논문은 기존의 EU 신뢰가능 AI 프레임워크처럼 신뢰를 규격화·검증 가능한 속성으로 보는 접근을 비판하고, 신뢰를 문화·관계에 뿌리내린 동적인 인간‑기계 관계로 재정의한다. 아프리카 공동체주의(우분투) 사상을 토대로 ‘공동체주의’, ‘존중’, ‘청렴’, ‘디자인 공개’ 네 가지 원칙을 제시하고, 이를 의료·교육 분야 사례에 적용해 실천적 설계 가이드를 제시한다.

상세 분석

논문은 먼저 현재 AI 윤리 정책과 도구(공정성 지표, 설명가능성 툴, 모델 카드 등)가 서구 자유주의적 가치—개인 권리와 법적·기술적 준수—에 기반해 신뢰를 ‘시스템이 갖추어야 할 속성’으로 전환시키는 한계를 짚는다. 이러한 접근은 신뢰를 ‘측정 가능한 메트릭’으로 환원함으로써, 실제 사용자와 커뮤니티가 경험하는 신뢰의 사회문화적 차원을 무시한다는 비판을 제시한다.

이어지는 사회기술적 논의에서는 신뢰가 ‘관계적·맥락적’이며, 사용자와 AI, 그리고 그 뒤에 있는 개발자·기관·정책 사이의 복합적인 어셈블리에서 형성된다고 강조한다. 여기서 핵심은 투명성이나 공정성 같은 기술적 특성이 사용자에게 의미 있게 전달되지 않을 경우, 형식적인 준수는 오히려 ‘윤리적 세탁’에 그칠 위험이 있다는 점이다.

이러한 비판을 보완하기 위해 저자들은 ‘관계 윤리(relational ethics)’와 아프리카의 공동체주의 철학인 우분투를 도입한다. 우분투는 ‘나는 우리가 있기 때문에 존재한다’는 전제 하에, 개인이 공동체와의 상호 의존 속에서 도덕적 정체성을 형성한다는 관점을 제공한다. 논문은 이를 AI 설계에 적용해 네 가지 원칙을 도출한다.

1. 공동체주의(Communitarianism) – 설계 단계에서 지역·문화·사회적 연결망을 고려하고, 정책·기술이 공동체의 집단적 복지를 우선시하도록 한다.
2. 존중(Respect for Others) – 사용자와 이해관계자의 목소리를 지속적으로 청취하고, 권력 불균형을 최소화하는 인터페이스와 피드백 메커니즘을 만든다.
3. 청렴(Integrity) – 데이터·모델·알고리즘의 출처와 변천 과정을 투명하게 공개하고, 책임 소재를 명확히 하여 신뢰의 윤리적 기반을 강화한다.
4. 디자인 공개(Design Publicity) – 설계 과정과 의사결정 로그를 공개함으로써 공동체가 설계에 참여하고 검증할 수 있는 공간을 제공한다.

이 네 원칙은 기존의 ‘신뢰‑by‑design’ 체크리스트와 달리, 기술적 검증을 넘어 장기적인 협업과 지속적인 관계 구축을 강조한다. 논문은 이를 실제 개발 라이프사이클에 통합하기 위해 ‘참여형 요구사항 정의’, ‘공동체 검증 워크숍’, ‘지속적 영향 평가(AIA)’ 등을 제안한다.

사례 연구로는 (1) 보건 분야에서 환자·의료진·지역사회가 공동으로 데이터 수집·모델 검증·결과 해석에 참여하도록 설계한 ‘커뮤니티 기반 진단 보조 시스템’과, (2) 교육 분야에서 교사·학생·학부모가 교과 과정 설계와 AI 기반 학습 도구 선택에 직접 참여하는 ‘협력형 학습 분석 플랫폼’이 소개된다. 두 사례 모두 투명한 데이터 흐름, 공동체 의견 반영, 지속적 피드백 루프를 통해 신뢰를 단계적으로 구축한다는 점에서 원칙 적용의 실효성을 보여준다.

전체적으로 논문은 ‘신뢰를 규격화된 속성이 아니라 인간‑기계 관계 속에서 지속적으로 재구성되는 도덕적 관계’로 재정의하고, 이를 구체적인 설계 원칙과 실천 가이드로 전환함으로써 기존 규범 중심의 AI 윤리 프레임워크를 보완한다. 특히, 비서구 문화·철학을 기술 설계에 통합하려는 시도는 AI 윤리 연구에서 지역적 다양성과 포괄성을 확대하는 중요한 전환점이라 할 수 있다.