감정 인식 AI가 위협하는 인간 표현의 가치

초록

이 논문은 ‘이상적인’ 감정 인식 기술(ERT)이 실시간으로 내면 감정을 정확히 드러낼 경우, 감정 표현이 가진 사회적·윤리적 기능을 훼손하고, 인간 관계와 공동체 규범을 약화시킬 위험을 지적한다. 저자는 감정 표현이 단순한 상태 표시가 아니라 행동 조정, 도덕적 회복, 신뢰 형성, 집단 규범 유지 등 다층적 역할을 수행한다는 점을 강조하며, 이러한 역할이 부분적인 불투명성과 ‘인식 마찰’에 의존한다는 점을 논증한다. 따라서 정확도가 높아진 ERT의 무분별한 도입은 표현의 자유와 사회적 가치를 보호하기 위한 규제 필요성을 제시한다.

상세 분석

본 논문은 감정 인식 기술(Emotion Recognition Technologies, ERT)의 미래형태를 ‘이상적인’ 시스템으로 정의하고, 이러한 시스템이 사회에 미칠 구조적 위험을 철학·심리·법학적 관점에서 다층적으로 분석한다. 첫 번째 분석 축은 감정 표현의 사회적 기능을 재조명한다. 저자는 감정 표현을 ‘사회적 관행(social practice)’으로 규정하고, EASI 모델(Emotions as Social Information)과 감정 실용주의(pragmatics) 이론을 통해 감정이 타인의 평가, 목표, 의도를 전달하고, 협력·협상·집단 의사결정에 영향을 미치는 ‘신호(signal)’ 역할을 수행함을 강조한다. 특히, 감정 표현은 ‘의도적(intended)’과 ‘자발적(spontaneous)’으로 구분되며, 의도적 표현은 문화·역할·관계에 따라 조절되는 규범적 규칙(display rules)에 따라 수행된다. 이러한 규칙은 ‘표현적 불투명성(opacity)’과 ‘인식 마찰(epistemic friction)’을 생성해, 상대방이 표현을 해석할 때 맥락적 배경지식과 불확실성을 고려하도록 만든다. 이는 도덕적 수선(moral repair), 사과·용서·위로와 같은 윤리적 행위가 진정성을 확보하도록 돕는다.

두 번째 분석 축은 ‘이상적인’ ERT가 도입될 경우 발생하는 인식 구조의 전환이다. 이상적인 ERT는 다중모달(얼굴, 음성, 행동, 생리) 데이터를 실시간으로 처리해 높은 정확도로 내면 감정을 ‘진단(diagnose)’한다. 이때 인간 관찰자는 자신의 불완전한 추론 과정을 배제하고, 시스템이 제공하는 ‘감정 프로파일’에 의존하게 된다. 결과적으로 두 가지 위험이 도출된다. 첫째, 시스템이 제공하는 확정적 라벨은 기존의 ‘불확실성 기반’ 해석을 대체해 인식 마찰을 소멸시킨다. 이는 감정 표현이 가진 교섭적·조정적 기능을 약화시켜, 갈등 상황에서의 완화나 관계 회복을 어렵게 만든다. 둘째, 감정 데이터가 ‘감시·감정 감사(auditing)’의 도구로 전락하면, 권위적·평가적 맥락(예: 직장, 교육, 법 집행)에서 개인의 감정이 지속적으로 측정·기록되어 ‘감정 결정론(affective determinism)’을 초래한다. 이는 개인의 자율성, 프라이버시, 그리고 집단적 규범의 유연성을 침해한다.

세 번째 분석은 규제적 함의를 도출한다. 저자는 정확도가 높아질수록 오히려 규제 필요성이 커진다고 주장한다. 기존 윤리·법 논쟁이 편향된 ‘편향(bias)’·‘기술적 한계’를 중심으로 전개된 반면, 본 논문은 ‘표현적 자유와 사회적 가치’를 보호하는 ‘기능 중심(function‑first)’ 규제 프레임을 제안한다. 구체적으로는 (1) 의도적 감정 표현을 공공재(public good)로 규정하고, (2) 감정 데이터의 수집·활용을 제한하는 ‘감정 불투명성 보호’ 조항, (3) 고위험 분야(채용, 법 집행, 교육 등)에서의 ERT 사용 금지 또는 엄격한 투명성·책임성 요건을 제시한다. 이러한 접근은 기술적 정확성 자체가 윤리적 정당성을 부여하지 않으며, 사회적 맥락과 인간 관계의 복합성을 고려한 규제 설계가 필요함을 강조한다.

전반적으로 논문은 감정 인식 기술이 인간 사회에 제공하는 ‘표현적 공간’을 어떻게 축소시키는지를 체계적으로 밝히며, 감정 표현의 다층적 사회적 가치를 보호하기 위한 정책적·법적 대응의 필요성을 설득력 있게 제시한다.