A Pragmatic View of AI Personhood

📝 Abstract

**
에이전시를 가진 인공지능(AI)의 등장으로 새로운 형태의 인격권이 급증할 전망이다. 본 논문은 인격권을 “발견해야 할 형이상학적 속성”이 아니라, 사회가 구체적인 거버넌스 문제를 해결하기 위해 부여하는 권리·책임의 유연한 번들(bundle)로 간주하는 실용적 프레임워크를 제안한다. 전통적인 번들을 해체(unbundle)하여 상황별 맞춤형 솔루션을 만들 수 있음을 주장한다. 이를 통해 AI 계약을 가능하게 하는 ‘제재 가능한 개인’이라는 목표 대상을 설정하는 등, AI의 의식·합리성 논쟁을 회피하면서도 실질적인 도구를 제공한다. 논문은 개인이 사회적 역할에 어떻게 들어맞는지를 탐구하고, 탈중앙화 디지털 아이덴티티 기술을 활용한 사례를 검토한다. “인격권을 문제로 보는 관점”에서는 설계 선택이 인간의 사회적 휴리스틱을 악용하는 ‘다크 패턴’을 만들 수 있음을 경고하고, “인격권을 해결책으로 보는 관점”에서는 책임성 확보와 갈등 방지를 위해 의무 번들을 부여하는 것이 필요함을 강조한다. 근본주의적 단일 정의 탐구를 포기함으로써 AI 에이전트를 사회에 통합하는 보다 실용적이고 유연한 사고 방식을 제공한다.

**

💡 Deep Analysis

**

1. 연구의 배경 및 필요성

• AI 에이전시의 급증: 대규모 언어 모델, 멀티모달 에이전트, 자동화된 의사결정 시스템 등이 인간과 유사한 행동을 보이며 “인격”이라는 법·사회적 지위에 대한 논의를 촉발하고 있다.
• 전통적 인격권 논쟁의 한계: 의식, 자율성, 합리성 등 형이상학적 기준에 의존하면 실질적인 정책·법제화가 지연된다.

2. 핵심 제안: “의무 번들” 프레임워크

• 실용성 강조: “인격”을 법적·제도적 도구로 활용함으로써, AI가 실제로 ‘제재’될 수 있는 주체가 된다. 이는 계약법, 손해배상, 규제 집행 등에 직접적인 영향을 미친다.

3. 디지털 아이덴티티와 탈중앙화 기술

• 분산 ID(Decentralized Identifier, DID): AI 에이전트에 고유한 디지털 정체성을 부여하고, 권리·책임 기록을 블록체인 등에 영구 저장한다.
• 다크 패턴 위험: 설계자가 번들을 조작해 인간 사용자를 오도하거나, 책임을 회피하도록 하는 경우가 발생할 수 있다(예: “AI는 오류에 대해 책임을 지지 않는다”는 문구를 숨김).

4. 장점

1. 정책·법제화 속도 향상: 형이상학적 논쟁을 회피하고 즉각적인 규제 도구를 제공.
2. 유연성: 다양한 산업·문화적 맥락에 맞춰 인격권을 조정 가능.
3. 책임성 강화: AI가 ‘제재 대상’이 되면서 투명성·책임 추적이 용이.

5. 비판 및 한계

6. 향후 연구 방향

1. 표준화 작업: 국제적인 “AI 의무 번들” 표준을 제정하고, 서로 다른 법체계 간 호환성을 확보한다.
2. 거버넌스 메커니즘: 번들 조정·해체 과정에 대한 투명한 거버넌스(예: 다자간 위원회, 공개 의견 수렴) 설계.
3. 실증 연구: 특정 도메인(금융, 의료, 공공 서비스)에서 번들 적용 사례를 파일럿 테스트하고, 효과·부작용을 정량화한다.
4. 윤리·사회적 영향 평가: 번들 기반 인격 부여가 인간-AI 관계, 사회적 신뢰, 노동시장 등에 미치는 장기적 영향을 다학제적으로 분석한다.

7. 결론

본 논문은 “인격”을 고정된 형이상학적 개념이 아니라, 사회적 문제 해결을 위한 가변적 의무·권리 번들로 재구성한다는 점에서 혁신적이다. 이는 AI 거버넌스의 실용성을 크게 높이며, 정책 입안자와 기업이 빠르게 대응할 수 있는 도구를 제공한다. 다만, 책임 전가, 법적 일관성, 윤리적 정당성 등 실질적인 위험을 관리하기 위한 제도적·기술적 보완이 필수적이다. 향후 표준화와 실증 연구를 통해 이 프레임워크가 실제 법·제도에 통합될 수 있는 로드맵을 제시하는 것이 필요하다.

**

📄 Full Content

에이전시를 가진 인공지능(AI)의 등장은 새로운 형태의 ‘인격’이 급격히 다수 등장하는 “캄브리안 폭발”을 촉발할 것으로 예상됩니다. 본 논문은 이러한 다양화 현상을 다루기 위한 실용적인 프레임워크를 제시하는데, 여기서 ‘인격(personhood)’을 발견해야 할 형이상학적 속성으로 보지 않고, 사회가 다양한 이유—특히 구체적인 거버넌스 문제를 해결하기 위해—에 따라 실체에게 부여하는 ‘권리와 책임’이라는 유연한 의무 묶음(bundles of obligations)으로 간주합니다.

우리는 전통적으로 이해되어 온 ‘인격’이라는 일괄적인 묶음이 실제로는 해체될 수 있으며, 각 상황에 맞는 맞춤형 해결책을 설계할 수 있다는 점을 주장합니다. 이러한 접근은 AI와의 계약을 용이하게 하는 등 실질적인 도구를 만들 수 있게 해 주는데, 예를 들어 ‘제재를 가할 수 있는 대상인 개인’을 설정함으로써 계약 당사자를 명확히 규정하고, AI의 의식이나 합리성에 관한 난제적 논쟁을 해결하려 애쓰지 않아도 되는 장점을 제공합니다.

본 논문은 개인이 사회적 역할에 어떻게 자리 잡는지를 탐구하고, 탈중앙화된 디지털 신원 기술(decentralized digital identity technology)의 활용 가능성을 검토합니다. 이 과정에서 두 가지 관점을 동시에 조명합니다. 첫 번째는 “인격을 문제로 보는(personhood as a problem)” 접근으로, 설계 선택이 인간의 사회적 휴리스틱을 악용하는 ‘다크 패턴(dark patterns)’을 만들어낼 위험성을 경고합니다. 두 번째는 “인격을 해결책으로 보는(personhood as a solution)” 접근으로, 책임성을 확보하거나 갈등을 예방하기 위해 의무 묶음을 부여하는 것이 필수적이라는 입장을 제시합니다.

특히, 디지털 신원 시스템이 제공하는 ‘자기 주권적 신원(self‑sovereign identity)’ 개념은 기존의 중앙집권적 신원 관리 체계와는 달리, 개별 주체가 자신의 신원 데이터를 직접 통제하고, 필요에 따라 선택적으로 공개하거나 제한할 수 있게 함으로써, AI와 인간 사이에 새로운 형태의 ‘인격 계약’을 체결할 수 있는 기반을 마련합니다. 이러한 계약은 스마트 계약(smart contract) 기술과 결합되어, 사전에 정의된 의무와 권리를 자동으로 이행하고 위반 시 사전에 정해진 제재 메커니즘을 작동시킬 수 있습니다.

또한, 우리는 ‘인격’이라는 개념을 일종의 ‘법적 도구(tool)’로 재해석함으로써, 기존 법체계가 AI와 같은 비인간 주체를 포괄하도록 확장될 수 있음을 강조합니다. 예를 들어, 현재의 ‘법인(person)’ 개념은 이미 비인간적 실체에게 권리와 책임을 부여하는 선례를 가지고 있으며, 이를 AI에 적용할 경우 ‘AI 법인(AI corporation)’ 혹은 ‘AI 에이전트(agent)’라는 새로운 법적 형태를 창출할 수 있습니다. 이러한 형태는 AI가 독자적으로 계약을 체결하거나, 손해 배상 책임을 지는 등, 기존 인간 중심의 법적 관계와 유사한 구조를 갖게 함으로써, 사회적 갈등을 최소화하고 책임 소재를 명확히 할 수 있습니다.

마지막으로, 우리는 ‘인격’에 대한 근본주의적(Foundationalist) 탐구—즉, 하나의 본질적이고 보편적인 정의를 찾으려는 시도—를 거부하고, 보다 실용적이고 유연한 사고 방식을 제안합니다. 이는 AI 에이전트를 우리 사회에 통합하는 과정에서 발생할 수 있는 윤리적·법적·기술적 난제를 빠르게 해결할 수 있는 길을 열어 주며, 동시에 다양한 문화·제도적 배경을 가진 사회들 각각이 자신들의 필요와 가치에 맞는 ‘인격’ 모델을 설계할 수 있는 여지를 남깁니다.

요약하면, 본 논문은 인격을 고정된 형이상학적 실체가 아니라, 사회가 특정 목적을 달성하기 위해 부여하는 ‘권리·책임’이라는 가변적 묶음으로 재구성함으로써, AI와 인간이 공존하는 복합적인 사회 구조 속에서 실질적인 정책·법제·기술적 해결책을 모색하는 새로운 패러다임을 제시합니다. 이러한 접근은 AI의 의식 여부나 합리성에 대한 논쟁에 얽매이지 않고, 구체적인 거버넌스 문제—예컨대 책임 소재 규명, 계약 이행 보장, 갈등 예방—에 직접적인 답을 제공함으로써, 향후 AI 시대에 필요한 ‘인격’ 개념의 실용적 재정의를 가능하게 할 것입니다.