서론

급성 혈관색전증은 세계적으로 사망과 장기 장애의 주요 원인 중 하나로, 환자, 돌보는 사람, 그리고 의료 체계에 큰 부담을 줍니다. 특히 컴퓨터 단층 촬영(CT), CT_angiography (CTA), 및 자기 공명 영상(MRI)과 같은 의학적 이미징의 정확하고 신속한 해석이 중요합니다. 인공지능(AI)은 병변 감지를 자동화하여 뇌졸중 이미징 데이터에서 세분화와 우선 순위 결정을 지원하는 유망한 도구로 부상했습니다.

딥러닝은 의료 영상 분야에서 크게 발전했지만, 현재 대부분의 뇌졸중 진단을 위한 AI 시스템은 이미지 품질, 병변 모호성 또는 데이터 분포 변화와 같은 변수를 고려하지 않고 일관된 결과를 제공하는 결정론적 예측기로 작동합니다. 이 접근 방식은 경험 많은 뇌파의학자들이 추가 영상을 얻거나 다단계 처리 과정을 통해 중대한 진단 불확실성을 수용하기 위해 종종 의사결정을 지연시키는 실제 임상 뇌파의학 분야와 매우 대조적입니다. 명시적인 메커니즘 없이는 이미지에서 불확실성을 식별하고 의사결정에서 포기하는 문제는, 특히 잘못된 자동 결정이 중대한 임상 결과를 초래할 수 있는 긴급 상황에서는 안전성과 신뢰성이 크게 중요해집니다.

최근 연구들은 의료 AI의 불확실성 양화 및 신뢰 가능한 예측과 그렇지 않은 예측을 구분하는 필요성을 강조했습니다. 의료 영상에서 베이지안 신경망과 딥 엔SEMBLE (DE) 등 불확실성 인식 접근 방식이 연구되었습니다. 그러나 이러한 방법은 결과를 수치적인 신뢰도 수준으로만 표현할 수 있다고 가정하며, 임상 의사결정에 직접 적용되지 않습니다. 한편 선택적 예측 및 포기 인식 학습을 통해 모델은 불확실성에 따라 예측을 포기하도록 합니다. 그러나 이러한 방법론은 뇌졸중의 의료 영상 분석에서 시스템적으로 단계적인 임상 평가를 반영하는 방식으로 거의 사용되지 않습니다.

뇌졸중 AI 모델의 중요한 한계는 해석성이 부족한 것입니다. 이러한 시스템이 양적 성능을 보여줘도 명확한 근거 없이 예측된 결과는 임상 의사가 신뢰하고 사용하는 것을 방해할 수 있습니다. 이를 해결하기 위해 설명 가능한 인공지능(XAI) 접근법은 중요성을 강조하며, saliency 기반 시각화 및Attribution 기술을 제안합니다. 그러나 대부분의 XAI 모델은 불확실성과 의사결정에서 분리되어 있으며 예측만 설명할 뿐, 언제 어떻게 예측이 이루어졌는지에 대한 지침을 제공하지 않습니다.

이러한 계속되는 도전들에도 불구하고, 복잡한 작업을 인식, 추론 및 의사결정을 위한 프로그래밍된 에이전트로 구성하는 에이전트 AI 접근 방식은 점점 더 매력적인 대안으로 부상하고 있습니다. 에이전트 및 다단계 아키텍처는 이미지 해석, 신뢰 수준 결정 및 의사결정 상승과 같은 임상 작업 흐름을 시뮬레이션하는 데 필요한 프레임워크를 자연스럽게 제공합니다. AI 연구에서 에이전트 모델링의 유망한 발전에도 불구하고 안전에 민감한 의료 영상 분야, 특히 급성 뇌졸중 의사결정 지원에 대한 이전 적용 작업은 거의 없습니다.

우리는 불확실성 예측 및 포기 계산을 고려하는 급성 혈관색전증 이미징 의사결정을 위한 해석 가능한 에이전트 AI 접근법을 제시합니다. 우리의 모델은 단순한 성능 측정에 의존하지 않고, 임상 안전성과 투명성 및 인간 가치화된 의사결정 문제를 강조합니다. 시스템은 인식 에이전트, 슬라이스 수준 신뢰도 추정을 수행하는 불확실성 추정 에이전트 및 사전 정의된 임계값을 사용하여 예측하거나 포기 결정을 내리는 의사결정 에이전트를 포함하는 모듈형 에이전트 파이프라인으로 구성됩니다. 해석 가능한 기능은 예측 및 포기 결정에 대한 해석 가능한 증거를 제공합니다.

개념과 탐색의 관점에서 이 연구는 성능 측면에서 범위가 제한될 수밖에 없습니다. 우리는 자신의 대표적인 사례를 소개하고 질병의 양적 특성을 주목하여, 에이전트 통제, 불확실성 및 선택적 포기가 모두 뇌졸중 이미징을 위한 AI에 자연스럽게 통합되는 방식을 시도합니다. 이 설계 원칙은 고위험 긴급 치료 환경에서 시스템의 임상적 관련성을 지원하는 데 필수적입니다.

관련 연구

급성 혈관색전증 이미징을 위한 AI

인공지능은 특히 CT, CTA 및 MRI 모드를 사용하여 병변 감지를 포함한 급성 혈관색전증 이미징 분야에서 광범위하게 탐구되었습니다. ISLES 챌린지와 같은 공개 벤치마크는 평가 방법을 구축하고 뇌졸중 병변의 분석을 진척시키는 데 결정적 역할을 했습니다.

대부분의 현대적인 방법은 CNNs를 기반으로 하며, 일반적으로 다중 스케일 또는 3D 방식으로 체적 뇌 영상 데이터에서 공간적 맥락을 포착하기 위해 사용됩니다. 이러한 접근법은 Dice 점수나 민감도와 같은 지표를 최적화하여 벤치마크 작업에 강력한 양적 결과를 제공하지만, 임상 실무보다 알고리즘 정확성을 우선시하며 모든 입력이 범주형 답변을 가질 것으로 항상 가정합니다.

의료 영상에서 불확실성 추정

의료 AI를 신뢰하기 위해서는 특히 안전에 영향을 미치는 영상에서는 불확실성을 이해하는 것이 중요합니다. 연구자들은 베이지안 신경망, Monte Carlo 드롭아웃 및 앙상블 기술과 같은 방법으로 딥러닝 모델의 두 가지 유형의 불확실성 측정을 연구하고 있습니다. 의료 영상에서 이러한 방법은 예측의 신뢰성을 판단하지 못하는 경우를 찾고 불분명한 사례를 찾아낼 수 있게 합니다.

그럼에도 불구하고 이러한 개선점에도 불구하고, 뇌졸중 이미징에서는 종종 단순히 추가적인 신뢰도 점수로 불확실성이 표시됩니다. 일반적인 절차에서 이러한 불확실성 추정은 시스템 작동 방식을 바꾸지 않습니다. 시스템은 이러한 추정에 따라 결정을 변경하지 않거나 불확실한 사례를 전문가에게 검토하도록 보내지 않습니다.

선택적 예측 및 단일 모델의 한계

선택적 예측 프레임워크는 확신이 서지 않을 때 예측을 피함으로써 결과의 신뢰성을 높일 수 있습니다. 의료 분야에서 이러한 방법은 모델이 과도하게 자신감을 가지고 있을 때 위험한 오류를 저지를 가능성을 줄입니다.

AI에서 포기는 종종 모델이 결정을 내린 후에 이루어집니다. 이는 인식, 불확실성 인정 및 의사결정 간의 차별화가 충분하지 않다는 것을 의미합니다. 따라서 예측을 하지 않는 이유가 종종 명확하지 않고 실제 임상 실무와 잘 맞지 않을 수 있습니다. 이것은 급성 뇌졸중 이미징과 같은 비상 상황에서 문제가 됩니다. 응급 뇌파의학에서는 결정이 신뢰할 수 있고 안전해야 하며 정확해야 합니다.

^$`\dagger`$다음 세대 임상 적용 가능한 뇌졸중 이미징 AI 시스템을 위한 개념적 탐색적 프레임워크.

임상 영상에서 설명 가능 인공지능

설명 가능한 인공지능(XAI)은 의료 AI 시스템의 투명성, 책임감 및 임상 의사의 신뢰성을 높이는 데 필수적입니다. 일반적으로 Grad-CAM과 같은 시각화 접근법이 모델 결정에 영향을 미치는 이미지의 일부를 시각화하는 데 사용됩니다. 조사에서도 설명 가능성의 중요성, 규제 준수, 윤리적인 배포 및 임상 채택에 대한 강조점이 있습니다.

그러나 대부분의 이러한 설명 가능성 방법은 일반적으로 불확실성 기반 및 의사결정 과정과 분리된 후속 처리 단계를 포함합니다. 따라서 설명은 결정이 어떻게 이루어졌는지 이해하는 데 도움을 주지만, 결정이 적절했는지를 다루는 더 중요한 질문에 대한 답변은 제공하지 않습니다. 특히 임상 환경에서는 결과가 매우 심각할 수 있으므로 이는 중요합니다.

의료 분야에서의 에이전트 및 다단계 AI 시스템

의료 분야에서의 에이전트 및 다단계 AI 시스템은 프로세스를 중재된 구성 요소로 나누어 설계하는 방식을 의미하며, 이러한 아키텍처는 최근 임상 의사결정 지원에서 주목받고 있습니다. 이들 구조는 모듈화 및 해석 가능한 성격 때문에 크게 주목받았습니다.

최근 의료 영상에 여러 에이전트를 사용한 연구들은 구조적 집단 지능을 훈련하는 가능성에 대한 잠재력을 보여주고 있습니다. 그러나 이러한 시스템은 아직 급성 뇌졸중 이미징 과정에서 사용되지 않았으며 설계상 안전 기능으로서 불확실성 기반 포기를 통합하지도 않았습니다.

요약 및 격차 분석

급성 뇌졸중 영상 AI, 불확실성 추정, 포기 인식 학습, 설명 가능한 AI 및 에이전트 시스템은 이러한 분야에서 최근 중요한 발전을 이루었습니다. 그러나 이 두 지역은 독립적으로 진화했습니다. 기존 접근법들은 안전성을 고려한 포기, 설명 가능성 및 반응형 의사결정 제어(RDC) 간의 균형점을 찾지 못하며, 이러한 모든 측면을 효과적인 AIS 이미징 솔루션으로 통합하는 데 실패합니다.

본 연구는 이 격차를 해결하기 위해 설명 가능한 에이전트 AI 아키텍처를 제시하고자 합니다. 이 아키텍처는 병변 인식, 불확실성 추정, 선택적 포기 및 임상 의사결정 지원을 통합하여 뇌졸중 이미징 시스템의 안전성과 신뢰성을 향상시키는 것을 목표로 합니다.

방법론

이 섹션에서는 불확실성 인식 및 포기를 고려하는 급성 혈관색전증 영상을 위한 설명 가능한 에이전트 AI 프레임워크를 제시합니다. 이 접근법은 임상 추론과 유사하게, 인식, 형성되지 않은 믿음의 변화, 의사결정 과정을 상호 작용하는 기능적 구성 요소로 본다. 모델의 기반이 단순한 예측에만 국한되지 않으며 안전성, 이해하기 쉬움 및 의학 지식과 얼마나 잘 일치하는지까지 고려합니다.

에이전트 프레임워크 개요

본 연구는 다양한 전문화된 에이전트를 포함하여 모듈형 아키텍처에 기반한 에이전트 시스템을 소개합니다. 이 접근법은 단일 딥러닝 접근법과 달리 이미지와 예측을 직접 융합하는 대신 인식, 불확실성 추정 및 의사결정을 분리합니다. 이러한 모델의 구조는 뇌파의학자가 임상적으로 읽는 방식을 반영하며, 영상 읽기 속도, 신뢰도 평가와 불확실한 경우에 어떻게 대응할지 함께 고려하지만 각각 별개로 처리합니다.

인식 에이전트: 병변 인식 이미지 분석

인식 에이전트는 급성 뇌졸중의 CT, CTA 및 MRI 스캔과 같은 영상 연구에서 병변 관련 특징을 식별하도록 설계되었습니다. 이 에이전트는 깊은 학습 기반 특징 추출기로서, 혈관색전증 손상을 나타내는 관련 뇌 영역에 초점을 맞추도록 훈련됩니다.

인식 에이전트가 임상적인 판단을 내리지 않는다는 점을 이해하는 것이 중요합니다. 대신, 이 에이전트는 공간 병변 특징, 컨텍스트 이미지 데이터 및 구조적 마커를 요약하는 중간 피처 표현을 추출합니다. 이러한 차이는 인식 분석을 후속 결정 임계값에서 분리하여 해석 가능한 중간 수준에 기반한 불확실성 추정과 포기 전략을 가능하게 합니다.