의료 진단을 위한 설명 가능한 인공지능 설계 공간 탐색

초록

본 논문은 의료 현장에서 인공지능 시스템을 설명 가능하게 만들기 위한 설계 요소를 인간 중심 관점에서 탐구한다. 저자들은 “시스템이 의사처럼 생각하고 행동한다면 설명 가능하게 인식될 것”이라는 가설을 세우고, 6명의 의료 전문가와의 인터뷰를 통해 의사들이 진단 과정에서 데이터를 어떻게 우선순위화하고 활용하는지를 조사하였다. 인터뷰 결과를 바탕으로 데이터 유형별 중요도, 상황별 설명 요구, 그리고 의사와 시스템 간 협업 모델을 제시하며, 향후 XAI 설계 방향을 제안한다.

상세 분석

이 연구는 의료 AI의 ‘설명 가능성’을 단순히 기술적 투명성으로 정의하지 않고, 실제 임상의가 어떻게 사고하고 의사결정을 내리는지를 모델링하는 데 초점을 맞춘다. 가설 설정 단계에서 “시스템이 의사와 동일한 인지·행동 패턴을 보일 때 비로소 설명 가능하다고 인식한다”는 전제는 기존 XAI 연구가 주로 알고리즘 내부 구조나 시각화에 집중한 것과 차별화된다. 인터뷰 대상은 다양한 진료과(내과, 외과, 소아과 등)에서 활동하는 6명의 전문가이며, 각자는 환자 데이터(임상 기록, 영상, 실험실 검사, 환자 인터뷰 등)를 수집·정리·해석하는 일련의 과정을 상세히 서술한다. 특히, 데이터의 ‘시점’과 ‘맥락’이 진단 단계마다 달라진다는 점을 강조했으며, 급성 상황에서는 핵심 증상과 생체징후가 우선시되고, 만성 질환 관리에서는 장기 추세와 환자 생활 습관 정보가 중요해진다. 이러한 인지적 우선순위는 기존 AI 모델이 일관된 입력 가중치를 적용하는 방식과는 크게 다르다.

연구진은 인터뷰 결과를 바탕으로 네 가지 설계 원칙을 도출한다. 첫째, 데이터 계층화—시점·맥락에 따라 데이터 중요도를 동적으로 조정하는 인터페이스. 둘째, 진단 단계별 설명—예비 진단, 확정 진단, 치료 계획 수립 각각에 맞는 설명 형태(예: 증상-검사 연관성, 위험도 추정 근거 등)를 제공. 셋째, 의사와 시스템의 대화형 협업—시스템이 제안한 가설에 대해 의사가 추가 질문을 던질 수 있는 쌍방향 질의응답 구조. 넷째, 사용자 맞춤형 설명 수준—전문의와 레지던트 등 경험 수준에 따라 설명 깊이와 전문 용어 사용을 조절한다.

이러한 설계 방향은 현재 의료 AI가 직면한 ‘신뢰’와 ‘책임’ 문제를 완화할 가능성이 있다. 시스템이 의사의 사고 흐름을 모방하고, 상황에 맞는 설명을 제공한다면, 의사는 결과를 검증하고 보완하는 과정에서 보다 적극적으로 AI를 활용할 수 있다. 다만, 인터뷰 표본이 소수이며, 실제 시스템 구현 시 데이터 연동·실시간 우선순위 조정 기술적 난이도, 그리고 설명 과부하 위험 등 추가 연구가 필요함을 지적한다.