의료 챗봇을 넘어: 메딜리나와 연속 임상 지능의 등장

초록

본 논문은 현재 대형 언어 모델을 의료에 적용하는 방식이 “다음 토큰 예측”에 머물러 있어 임상 안전성을 보장하지 못한다는 점을 지적한다. 저자들은 임상 상황에서 필요한 지속적 맥락 유지, 의도 보존, 제한된 추론, 불확실시 적절한 회피 등을 핵심으로 하는 ‘임상 맥락 지능(CCI)’이라는 새로운 능력 클래스를 정의한다. 이를 구현한 시스템 ‘메딜리나’를 제시하고, 16,000여 건의 다양한 의료 질의에 대해 행동 중심 평가를 수행해 기존 생성형 모델 대비 불확실성 표현, 보수적 추론, 장기적 제약 준수, 과도한 추측 억제에서 우수함을 보인다. 결과는 규모 확대만으로는 안전한 의료 AI가 나오지 않으며, 임상 책임에 맞춘 연속 지능이 필요함을 시사한다.

상세 분석

이 논문은 현재 의료 AI 연구가 대형 언어 모델(Large Language Model, LLM)의 “다음 토큰 예측”이라는 목표에 지나치게 의존하고 있음을 비판한다. 임상 추론은 단순히 텍스트를 완성하는 문제가 아니라, 불확실성, 불완전한 증거, 그리고 시간에 따라 변하는 환자 상황을 동시에 고려해야 하는 복합적인 책임 기반 프로세스이다. 저자들은 이러한 차이를 정량·정성적으로 분석하고, 기존 모델이 보이는 ‘조기 폐쇄(premature closure)’, ‘부당한 확신(unjustified certainty)’, ‘의도 흐트러짐(intent drift)’, ‘다단계 의사결정 불안정성(instability)’ 등을 구조적 한계로 규정한다.

핵심 개념인 ‘임상 맥락 지능(Clinical Contextual Intelligence, CCI)’는 다섯 가지 속성으로 정의된다. 첫째, **의도 보존(Intent Preservation)**은 진단, 치료 계획 등 특정 임상 목표를 지속적으로 인식하고 그 범위 내에서 응답을 제한한다는 의미이다. 둘째, **맥락 지속성(Context Persistence)**은 대화가 진행될수록 이전 증상, 검사 결과, 미해결 질문 등을 메모리 형태로 유지해 장기적인 추론을 가능하게 한다. 셋째, **제한된 추론(Bounded Reasoning)**은 증거가 부족하거나 질문이 시스템의 권한을 초과할 때 추론을 중단하고 추가 정보를 요구하거나 거절한다는 원칙이다. 넷째, **책임 인식 출력(Responsibility‑Aware Output)**은 자신감 점수를 명시하고, 불확실성을 투명하게 표시함으로써 의료 전문가가 최종 판단을 내릴 수 있게 돕는다. 다섯째, 맥락‑제한 진실성(Context‑Bounded Truthfulness), 즉 환각 방지는 시스템이 알려진 사실과 추론 가능한 가능성만을 제시하고, 근거 없는 정보를 채워 넣지 않도록 설계한다.

‘메딜리나(Meddollina)’는 이러한 CCI 원칙을 설계 단계부터 내재화한 거버넌스‑우선 시스템이다. 기존 모델은 사후 필터링이나 프롬프트 엔지니어링으로 안전성을 보강하려 하지만, 메딜리나는 추론 단계 자체에 제약을 두어 언어 생성 전에 위험 요소를 차단한다. 구체적으로는 (1) 입력된 임상 데이터와 목표를 구조화된 그래프 형태로 저장하고, (2) 추론 엔진이 그래프를 탐색하면서 허용된 범위와 불확실성을 실시간 평가한다, (3) 최종 언어 생성 모듈은 ‘안전한 답변’ 혹은 ‘추가 정보 요청/거절’이라는 두 가지 옵션 중 하나만 선택하도록 제한한다.

평가에서는 16,412개의 이질적인 의료 질의(진단, 치료, 약물 상호작용, 장기 관리 등)를 수집하고, 일반 목적 LLM, 의료 특화 파인튜닝 모델, 검색 기반 생성 시스템(RAG)과 비교했다. 행동 중심 메트릭으로는 (a) 불확실성 표기 비율, (b) 보수적 추론 비율(불완전한 상황에서 ‘추가 정보 요청’ 혹은 ‘거절’ 선택), (c) 장기 대화에서 초기 제약 위반 여부, (d) 환각(허위 정보) 발생 건수를 사용했다. 결과는 메딜리나가 모든 메트릭에서 현저히 높은 점수를 기록했으며, 특히 불확실성을 명시하는 비율이 92%에 달해 기존 모델의 35%에 비해 크게 앞섰다. 또한, 장기 대화 시 초기 제약을 위반하는 경우가 거의 없었으며, 환각 발생률도 1.2% 수준으로 크게 감소했다.

이 논문은 두 가지 중요한 시사점을 제공한다. 첫째, 모델 규모 확대만으로는 임상 안전성을 확보할 수 없으며, 구조적 설계와 거버넌스가 필수적이다. 둘째, AI 성능 평가 지표를 ‘정답률’이나 ‘BLEU 점수’ 같은 전통적 언어 지표에서 ‘임상 책임에 부합하는 행동’ 중심으로 전환해야 한다는 점이다. 이러한 관점은 향후 의료 AI가 실제 현장에 통합될 때 발생할 수 있는 법적·윤리적 위험을 최소화하고, 인간 전문가와의 협업을 강화하는 방향으로 연구·개발 로드맵을 재정립하도록 유도한다.