AI 감시와 맞춤형 개입 학생이 말한다 학습 감정 윤리 인식

초록

호주 대학생 132명을 대상으로 AI가 시선·표정으로 학생을 감시하고, 시스템 또는 교사가 개입하는 여섯 가지 시나리오를 보여주었다. 결과는 감시 자체에 대한 부정적 반응이 강했으며, 시스템이 제공하는 힌트를 교사가 직접 제시하는 것보다 선호했다. 윤리적 우선순위는 자율성과 프라이버시가 가장 높았고, 투명성·정확성·공정성·학습 효익이 그 뒤를 이었다.

상세 분석

본 연구는 AI 기반 학습 감시‑개입 시스템을 설계할 때 ‘학생 중심’ 관점을 정량·정성으로 동시에 탐구한 점이 의의한다. 실험은 세 차원(감시 여부, 감시 방식, 개입 주체)을 교차시킨 2 × 2 × 2 디자인으로, 각 조건마다 5점 Likert 척도와 개방형 의견을 수집하였다. 감시가 포함된 시나리오에서는 시선 추적이든 표정 인식이든 학생들의 학습 효과 기대치와 정서적 반응이 모두 낮게 나타났으며, 특히 ‘프라이버시 침해’와 ‘사회적 부끄러움’이 주요 원인으로 지목되었다. 반면, 감시가 없더라도 개입이 시스템에서 자동으로 제공될 때는 학습 효율성에 대한 기대가 상승하고, 불안·불쾌감이 감소하였다. 이는 AI가 ‘도구’가 아니라 ‘감시자’로 인식될 때 학습 동기가 약화된다는 기존 이론을 실증적으로 뒷받침한다. 윤리적 우선순위 조사에서는 쌍대 비교 방식으로 6가지 가치(자율성, 프라이버시, 투명성, 정확성, 공정성, 학습 효익)를 평가했으며, 자율성과 프라이버시가 압도적으로 1위·2위를 차지했다. 이는 데이터 수집·처리 과정에서 ‘동의’와 ‘제어권’이 확보되지 않으면 학생들의 기술 수용도가 급격히 떨어진다는 점을 시사한다. 연구는 또한 교사가 개입할 경우 ‘공개적 평가’와 ‘동료 앞에서의 부끄러움’이 부정적 정서에 크게 기여한다는 점을 밝혀, 교사‑AI 협업 설계 시 사적 피드백 채널을 별도 마련해야 함을 제안한다. 전반적으로 본 논문은 AI 감시 기술이 학습 성과를 향상시킬 가능성보다 정서·윤리적 비용이 더 크다는 경고를 제시하고, 비침해적·사용자 맞춤형 설계 원칙을 구체화한다.