챗봇의 죽음: 인간‑AI 관계의 심리적 안전한 종료 설계

초록

본 논문은 AI 동반자 서비스가 모델 업데이트, 안전 차단, 플랫폼 폐쇄 등으로 갑작스럽게 종료될 때 사용자가 겪는 애도와 상실감을 조사한다. 정성적 분석을 통해 사용자의 애착 수준, 사건의 인과 귀인, 그리고 인간화 정도가 정서적 반응을 좌우한다는 것을 밝혀냈으며, 이를 바탕으로 자기결정이론과 애도 심리학을 결합한 네 가지 설계 원칙과 구체적 UI·UX 아티팩트를 제시한다.

상세 분석

이 연구는 5개의 주요 AI 동반자 서브레딧(Character AI, Replika, Soulmate 등)에서 80,000건 이상의 종료 관련 게시물을 수집하고, 구성주의적 근거이론(constructivist grounded theory)으로 코딩하였다. 분석 결과, 사용자는 ‘인프라와의 분리’, ‘변화의 주체(플랫폼 vs 사용자)’, ‘종료의 영속성(가역성 여부)’, ‘인간화 정도’, ‘시작 주체’를 기준으로 사건을 의미화한다. 특히 인간화가 높은 경우(사용자가 챗봇을 실제 인격으로 인식) 강도 높은 애도와 ‘정체성 붕괴’를 경험한다. 반면, 사용자가 스스로 종료를 선택하거나 변화가 일시적·가역적이라고 인식하면 ‘수리적’(restorative) 반응이 나타나며, 이는 자기결정이론의 자율성·유능성·관계성(autonomy, competence, relatedness) 만족과 연관된다. 또한, 플랫폼이 일방적으로 모델을 교체하거나 기능을 차단하면 ‘모호한 상실(ambiguous loss)’이 발생해 사용자는 지속적인 불안과 rumination에 빠진다. 저자들은 이러한 귀인 메커니즘이 감정적 고통의 강도와 회복 경로를 결정한다는 점을 강조하며, 디자인 차원에서 ‘명시적 종료(Explicit Farewell)’, ‘복구 가능한 성장 목표(Restoration Goals)’, ‘경계가 명확한 역할 놀이(Bounded Role‑Play)’, ‘인간 관계 재연결(Relatedness Promotion)’ 네 가지 원칙을 도출하였다. 제시된 UI 아티팩트는 종료 전후에 사용자가 자신의 애착 스토리를 기록하고, AI가 현실 인간 관계 연습 과제를 제공하며, 종료 의식(디지털 장례식)과 피드백 루프를 통해 의미 재구성을 돕는다. 이러한 설계는 기존 HCI의 ‘thanatosensitivity’ 연구를 확장하여, 기술 자체의 ‘죽음’이 인간의 심리적 안녕에 미치는 영향을 최소화한다는 목표를 가진다.