설명 가능한 질병 예측을 재구상: 정확도와 신뢰성을 동시에 잡는 반사 인지 아키텍처

초록

본 논문은 정확한 예측과 고품질 설명이 상충이 아니라 상호보완적이라는 가설 아래, 대규모 언어 모델(LLM)이 표형 데이터를 직접 경험하고 반성하도록 설계한 “반사 인지 아키텍처(RCA)”를 제안한다. RCA는 (1) 오류 기반 규칙 최적화와 (2) 전역 분포 검증이라는 두 메커니즘을 순환적으로 적용해 논리적 추론과 통계적 근거를 동시에 확보한다. 20여 개의 기존 모델과 3개의 의료 데이터셋(전용 CRT 코호트 포함)에서 실험한 결과, RCA는 예측 성능·노이즈 강인성·설명 품질 모두에서 최첨단을 기록했다.

상세 분석

RCA는 LLM이 표형 데이터를 텍스트 서술로 변환한 뒤, “동적 규칙 베이스”를 중심으로 자기반성 과정을 수행한다는 점에서 기존 도구 기반 에이전트와 근본적으로 차별화된다. 첫 번째 핵심 메커니즘인 Iterative Rules Optimization은 M_pred이 현재 규칙(R_{k‑1})과 전역 분포(D_train)를 이용해 예측을 수행하고, 오분류된 샘플을 S_error에 집계한다. 이 오류 집합을 텍스트화한 뒤, 별도 반성 LLM(M_ref)이 규칙 베이스를 업데이트한다. 여기서 규칙은 “경험 → 추상화 → 장기 기억”의 흐름을 따르며, 오류가 반복될수록 규칙은 점점 구체적이면서도 일반화된 형태로 진화한다. 두 번째 메커니즘인 Distribution‑aware Rules Check는 M_chk가 새롭게 생성된 규칙 R_k를 D_train과 비교해 통계적 일관성을 검증한다. 규칙이 데이터 전체 분포와 충돌하면 수정하거나 폐기하도록 설계돼, 과적합을 방지하고 EBM(증거 기반 의학) 원칙을 유지한다. 이러한 이중 피드백 루프는 논리적 일관성(LA)과 증거 기반성(EBM)을 동시에 만족시키는 규칙을 자동 생성한다는 점에서 신경‑심볼릭 접근법을 한 단계 확장한다.

기술적 구현 측면에서 RCA는 (1) Data Narrative 단계에서 각 환자 레코드를 “혈소판‑대‑림프 비율은 X, D‑dimer는 Y…”와 같은 자연어 문장으로 변환해 LLM이 직접 읽을 수 있게 만든다. (2) Distribution Extraction에서는 평균, 사분위수, 빈도 등 통계 요약을 텍스트 형태로 제공해, 모델이 개별 샘플을 과도하게 해석하는 것을 억제한다. (3) Dynamic Rule Base는 텍스트 규칙 집합으로 저장되며, 매 학습 epoch마다 M_ref와 M_chk가 순차적으로 접근한다. 학습이 종료되면 최종 규칙 R_f는 테스트 단계에서 M_pred에 전달돼, 예측값과 함께 “논리적·통계적 근거가 포함된 설명(e_i)”을 출력한다.

실험 설계는 3개의 의료 데이터셋(전용 CRT 코호트, 두 개의 대규모 공개 데이터)과 22개의 베이스라인(전통 ML, 트리 기반, 신경‑심볼릭, 최신 LLM 기반 에이전트 등)을 포함한다. 평가 지표는 (a) AUROC 등 예측 정확도, (b) 노이즈 주입 실험을 통한 강인성, (c) 설명 품질을 인지 부하(Cognitive Load), 논리적 타당성(Logical Argumentation), 증거 기반성(Evidence‑Based Medicine), 인지 편향 감소(Cognitive Bias) 네 가지 기준으로 정량·정성 평가한다. RCA는 모든 지표에서 기존 방법을 크게 앞섰으며, 특히 설명 품질 점수에서 평균 15% 이상 상승하고, 노이즈 환경에서도 AUROC 감소폭이 최소화되는 등 실용적 강점을 보였다.

이러한 결과는 “예측 정확도와 설명 품질은 동일한 데이터 이해 과정의 부수적 산물”이라는 논문의 핵심 가설을 실증적으로 입증한다. 또한, LLM이 외부 툴을 호출하지 않고 데이터 자체와 직접 상호작용하도록 설계함으로써, 인간 전문가가 데이터를 탐색하고 직관을 형성하는 방식과 유사한 ‘경험‑반성’ 사이클을 구현했다는 점에서 인공지능·의학 융합 연구에 새로운 패러다임을 제시한다.