누구의 지식이 중요한가 공동 디자인 AI 감사 도구와 하와이 교육자

본 연구는 하와이 공립학교 교사 22명을 대상으로 4차례에 걸친 공동 디자인 워크숍을 진행함으로써, 생성형 AI가 교육 현장에서 초래할 수 있는 문화적 오해와 편향을 구체적으로 탐색하고, 이를 해결하기 위한 지역사회 중심의 AI 감사 도구 설계 아이디어를 도출하였다. 연구 배경으로는, 생성형 AI가 교사의 수업 설계·자료 제작을 돕는 동시에, 서구 중심의 데이터와 모델링 방식으로 인해 저자원 언어인 ‘오레로 하와이’를 포함한 원주민 문화가 왜곡되거나 누락되는 위험이 존재한다는 점을 들었다. 특히 하와이 주는 교육 과정에 하와이 언어·문화를 통합하도록 법제화하고 있어, AI 도입이 문화적 정체성 유지와 충돌할 가능성이 높다. 워크숍에서는 교사들이 현재 AI를 활용하는 방식(수업 자료 자동 생성, 질문 응답, 과제 아이디어 도출 등)을 공유하고, 실제로 경험한 문화적 오표현 사례를 논의했다. 대표적인 사례로는 AI가 제임스 쿡 선장을 ‘친절한 탐험가’로 묘사하며 하와이에 끼친 부정적 영향을 축소하거나, 하와이어 텍스트에서 ‘오키나(‘)와 같은 고유 문자와 억양 표시가 누락되는 문제가 있었다. 이러한 문제를 바탕으로 교사들은 감사 도구에 다음과 같은 핵심 기능을 요구했다. 1. **출처·계보 추적**: 생성된 텍스트·이미지의 원본이 전통적인 하와이 구전·문헌인지, 서구 출판물인지 구분하고, 해당 출처를 시각적으로 표시한다. 이는 하와이 문화에서 지식 전승이 ‘가계도’ 형태로 관리되는 전통과 맞물려, 자료의 신뢰성을 판단하는 데 필수적이다. 2. **문화 정체성 라벨링**: 출력물에 포함된 내용이 ‘카나카(Kanaka)’ 경험을 반영하는지, 혹은 서구 시각에 편향된 서술인지 자동 라벨링한다. 이를 통해 교사는 수업에 사용할 자료가 문화적으로 적절한지 빠르게 판단할 수 있다. 3. **문제 출력 플래그 및 공동체 공유**: 의심스러운 결과에 대해 교사가 직접 플래그를 달고, 해당 사례를 학교·지역사회·문화 전문가가 검토할 수 있는 데이터베이스에 저장한다. 이렇게 축적된 사례는 향후 AI 모델 개선이나 교육 자료 개발에 활용될 수 있다. 이러한 설계 요구는 기존 AI 감사 도구가 제공하는 단순한 ‘출처 표시’나 ‘유해성 필터링’과는 차원이 다르다. 하와이 교사들은 특히 ‘지식의 계보’를 문화적 맥락에서 강조했으며, 이는 서구 중심의 기술 설계가 놓치기 쉬운 요소이다. 연구는 또한 감사 활동을 개인 교사의 부담이 아닌, **공동체 중심 프로세스**로 재구성할 필요성을 강조한다. 이를 위해 세 가지 설계 권고안을 제시한다. 첫째, 감사에 참여할 주체를 확대해 교사뿐 아니라 문화 전문가·학생·학부모 등 다양한 이해관계자를 포함한다. 둘째, 공동체 가치와 전통 지식 체계를 반영한 인프라(전통 지식 저장소, 문화 검증 워크플로우 등)를 구축한다. 셋째, 감사 결과의 목표를 ‘위험 차단’이 아니라 ‘문화적 학습·비판적 사고 촉진’으로 전환한다. 즉, 감사 도구가 단순히 오류를 찾아내는 것이 아니라, 학생들에게 AI가 제공하는 정보의 문화적 편향을 비판적으로 탐구하도록 돕는 교육적 역할을 수행해야 한다는 것이다. 결론적으로, 이 논문은 저자원 언어와 원주민 교육 환경에서 AI 감사 도구를 설계할 때, **보편적 서구 기준이 아닌 지역사회·문화 특수성을 중심에 두어야 함**을 실증적으로 보여준다. 정책 입안자와 AI 개발자는 하와이와 같은 문화적 민감도가 높은 환경에서 AI 도입을 확대하려면, 감사 도구에 문화적 계보 추적, 공동체 참여 메커니즘, 교육적 목표 재정의 등을 내재화해야 한다는 중요한 시사점을 얻을 수 있다.