AI의 한계와 가능성: 행위성, 자율성, 도덕적 지위의 미래

초록

본 논문은 복잡한 행동을 보이는 AI 시스템의 확산에 따라, 그들의 행위성, 자율성, 도덕적 지위에 대한 철학적 검토를 수행한다. 현재 AI는 고도로 정교하지만, 진정한 목표 지향적 행동을 보이지 못하고, 세계와의 참된 관계 형성 능력이 없으며, 비판적 자기반성과 자율성 역량이 결여되어 있어 진정한 행위성과 자율성을 갖추지 못했다고 주장한다. 그러나 미래에는 비의식적 하이브리드 접근법을 통해 제한된 형태의 인공 도덕적 행위자(AMA)가 출현할 가능성을 열어두며, 이는 의식이 도덕적 피행위성의 필요조건이라는 전제 하에, 도덕적 행위성과 피행위성의 전통적 연결을 해체하는 도전적 사례가 될 수 있음을 시사한다.

상세 분석

이 논문은 AI 철학 분야에서 행위성과 자율성에 대한 개념적 명료화를 체계적으로 시도한 중요한 연구이다. 저자들은 행위성을 단순한 반응이 아닌, 환경과의 역동적이고 목표 지향적인 상호작용으로 정의하며, 플로리디와 샌더스의 상호작용성, 자율성, 적응성이라는 세 가지 기준을 통해 이를 조작화한다. 특히 ‘기본 행위성’과 ‘자율적 행위성’을 구분한 점이 핵심이다. 기본 행위성은 세균의 예에서 볼 수 있듯 환경에 대한 목표 지향적 적응 능력을 의미하는 반면, 자율적 행위성은 자기반성을 통한 자기 지향적 목표 설정, 진정한 선택의 가능성, 그리고 가치와 원칙에 대한 비판적 성찰 및 수정 능력을 요구한다.

현재 AI 시스템(예: LLMs, 자율주행차)은 전자에도 미치지 못한다고 분석한다. 그들의 ‘목표 지향성’은 사전 프로그래밍된 목표와 데이터에 의해 엄격히 제한된 최적화 과정에 불과하며, 실시간 경험으로부터 학습하고 동적으로 적응하는 능력이 부재하다. 이는 ‘의도적 태도’를 적용한 덴넷의 설명이나 설의 ‘중국어 방’ 논증과 같은 기존 철학적 비판과 맥을 같이한다. 즉, AI의 행위성은 설계된 환영에 가깝다.

논문의 가장 도전적인 통찰은 미래 ‘인공 도덕적 행위자(AMA)‘에 관한 것이다. 저자들은 의식 없이도 규칙 기반 및 결과론적 접근법을 결합한 하이브리드 방식을 통해 제한된 AMA 구현이 가능할 수 있다고 본다. 여기서 중요한 것은, 이러한 비의식적 AMA가 ‘도덕적 행위성’은 가질 수 있지만, 의식이 도덕적 고려의 대상이 되는 ‘도덕적 피행위성’의 필요조건이라면, 이 두 개념이 분리될 수 있는 특이한 사례를 제시한다는 점이다. 이는 동물 권리 논쟁에서 의식의 역할을 강조하는 철학적 입장(싱어 등)을 염두에 둔 것으로, AI가 도덕적 행위자로서 책임을 질 수 있는 동시에 (의식이 없다는 이유로) 도덕적 보호의 대상이 되지 않는 역설적 상황을 상정한다. 이는 AI 윤리와 법제도 설계에 중대한 함의를 지닌다.