생성형 AI와 정보시스템의 융합: 연구 현황과 미래 과제

초록

본 논문은 2023년 이후 발표된 28개의 2차 연구와 연구 로드맵을 체계적으로 분석해, 생성형 AI가 정보시스템(IS) 분야에 미치는 혜택과 위험을 종합한다. 기술적 불안정성(환각·성능 저하), 윤리·사회적 위험(편향·오용·스킬 감소), 그리고 거버넌스 공백(프라이버시·책임·지식재산) 등 세 가지 주요 도전 과제를 도출하고, 기술‑사회 서브시스템 간의 불균형을 사회기술적 관점에서 해석한다. 이를 바탕으로 인간‑AI 하이브리드, 상황적 검증, 확률적 설계 원칙, 적응형 거버넌스 등을 강조하는 통합 연구 의제를 제시한다.

상세 분석

이 연구는 2023년 이후 발표된 28개의 2차 문헌을 메타분석함으로써, 생성형 AI(GenAI)가 정보시스템(IS) 분야에 가져온 변화를 체계적으로 조명한다. 첫 번째로, GenAI가 생산성 향상, 맞춤형 서비스 제공, 혁신 촉진 등 조직적 이점을 제공한다는 점을 확인했으며, 이는 대규모 언어 모델(LLM)과 멀티모달 시스템이 기존 업무 흐름에 자연스럽게 통합되는 결과이다. 그러나 이러한 혜택은 기술적 불안정성—특히 환각(hallucination)과 성능 드리프트(performance drift)—에 의해 크게 제약된다. 이러한 현상은 모델이 훈련 데이터와 실제 운영 환경 사이의 분포 차이로 인해 발생하며, 실시간 검증 메커니즘이 부재한 경우 의사결정 오류를 초래한다. 두 번째로, 사회·윤리적 위험이 다층적으로 드러난다. 편향(bias)과 오용(misuse)은 모델이 학습한 데이터의 사회적 구조를 그대로 반영함으로써 발생하고, 장기적으로는 사용자의 비판적 사고와 전문 기술(skill)의 퇴화를 야기한다는 우려가 제기된다. 특히 교육·보건 등 고위험 분야에서의 적용은 학습자·환자 보호 차원에서 강력한 규제와 윤리 가이드라인이 필요함을 시사한다. 세 번째로, 거버넣스 공백이 강조된다. 프라이버시 보호, 책임 소재 규정, 지식재산권 관리 등 기존 법·제도는 확률적·생성적 특성을 가진 AI에 적합하지 않으며, 정책 입안자와 기업이 공동으로 적응형 거버넌스 프레임워크를 설계해야 한다는 결론에 도달한다. 연구자는 이러한 도전 과제가 기술 서브시스템의 급속한 진화와 사회 서브시스템의 상대적 정체 사이의 구조적 불일치에서 비롯된다고 보고, IS 학문이 ‘공동 최적화’를 위한 중재자 역할을 수행해야 한다고 주장한다. 이를 위해 제시된 연구 의제는 (1) 인간‑AI 하이브리드 팀 설계, (2) 현장 중심의 상황적 검증 메커니즘 구축, (3) 확률적 시스템 설계 원칙 정립, (4) 정책·조직·기술이 상호 연계된 적응형 거버넌스 모델 개발 등 네 가지 축으로 구성된다. 특히 인간‑AI 협업을 촉진하기 위한 인터페이스 설계와, 모델 출력의 불확실성을 시각화·전달하는 방법론이 핵심 연구 과제로 강조된다. 전반적으로 이 논문은 GenAI 연구가 단순 기술 탐색을 넘어, 사회·조직·법제와의 통합적 접근을 필요로 함을 설득력 있게 제시한다.