Title: Motion2Meaning: A Clinician-Centered Framework for Contestable LLM in Parkinsons Disease Gait Interpretation
ArXiv ID: 2512.08934
발행일: 2025-10-21
저자: Loc Phuc Truong Nguyen, Hung Thanh Do, Hung Truong Thanh Nguyen, Hung Cao
📝 초록 (Abstract)
AI 기반 보행 분석은 파킨슨병 치료에 새로운 가능성을 제시하지만, 기존 임상 대시보드는 투명성이 부족하고 의사가 AI 판단에 이의를 제기할 수 있는 방법을 제공하지 않는다. 이를 해결하고자 본 연구는 해석 가능성, 감독, 절차적 구제 수단을 긴밀히 결합한 임상‑중심 프레임워크인 Motion2Meaning을 제안한다. 본 시스템은 웨어러블 센서에서 얻은 수직 지면 반력(vGRF) 시계열 데이터를 파킨슨병 운동 상태의 객관적 바이오마커로 활용한다. 주요 구성 요소는 (1) 보행 데이터 시각화 인터페이스(GDVI), (2) Hoehn & Yahr 단계 예측을 수행하는 1차원 CNN(1D‑CNN), (3) 새로운 교차‑모달 설명 불일치(XMED) 보호 메커니즘과 대화형 LLM을 결합한 Contestable Interpretation Interface(CII)이다. 1D‑CNN은 공개 PhysioNet 보행 데이터셋에서 F1‑score 89.0 %를 달성하였다. XMED는 잘못된 예측에서 설명 불일치 비율이 7.45 %로, 올바른 예측(1.56 %)에 비해 5배 증가함을 확인함으로써 모델의 신뢰성을 효과적으로 탐지한다. LLM 기반 인터페이스는 임상의가 올바른 예측을 검증하고 일부 오류를 성공적으로 이의제기하도록 지원한다. 인간‑중심 평가에서는 LLM의 사실 기반성, 가독성, 임상 피드백에 대한 반응성 사이에 중요한 트레이드오프가 존재함을 보여준다. 본 연구는 웨어러블 센서 분석, XAI, 그리고 대화형 LLM을 결합해 파킨슨병 보행 해석에 투명하고 감사 가능한 시스템을 구현할 수 있음을 입증한다. 구현 코드는 https://github.com/hungdothanh/motion2meaning 에 공개되어 있다.
💡 논문 핵심 해설 (Deep Analysis)
본 논문은 파킨슨병(PD) 환자의 보행 분석에 있어 현재 임상 현장에서 가장 시급히 요구되는 ‘설명 가능성’과 ‘이의제기 가능성(contestability)’을 동시에 충족시키는 통합 시스템을 제시한다는 점에서 학술적·실용적 의의가 크다. 첫 번째로, 수직 지면 반력(vGRF)이라는 물리적 바이오마커를 활용한다는 접근은 기존 영상 기반 혹은 주관적 평가에 비해 측정의 객관성과 연속성을 확보한다. vGRF는 보행 주기 전반에 걸쳐 발바닥에 가해지는 힘을 정밀히 기록하므로, 파킨슨병 특유의 보행 불안정성, 발걸음 짧아짐, 그리고 ‘프리징(freezing)’ 현상을 정량화하는 데 적합하다. 두 번째로, 1D‑CNN 모델이 89 %라는 높은 F1‑score를 달성했음에도 불구하고, 저자들은 모델의 불확실성을 단순히 확률값에 의존하지 않고 ‘설명 불일치’를 정량화하는 XMED 메커니즘을 도입함으로써 보다 견고한 신뢰성 검증 체계를 구축했다. XMED는 동일 입력에 대해 서로 다른 모달리티(예: 시계열 데이터와 LLM 기반 텍스트 설명) 간의 설명 차이를 측정하고, 이 차이가 일정 임계값을 초과하면 모델을 ‘불신뢰’ 상태로 표시한다. 실험 결과에서 잘못된 예측이 올바른 예측에 비해 설명 불일치 비율이 5배 이상 증가한다는 사실은 XMED가 실제 오류를 효과적으로 포착한다는 강력한 증거다. 세 번째로, Contestable Interpretation Interface(CII)는 LLM을 단순한 ‘대화형 UI’가 아니라 ‘이의제기 도구’로 전환한다. 임상의는 LLM에게 특정 예측에 대한 근거를 묻고, 설명이 불충분하거나 모순될 경우 즉시 ‘컨테스트(contest)’를 제기할 수 있다. 이 과정에서 LLM은 자체 설명을 재검토하고, 필요 시 대체 근거를 제시하거나 예측을 보류한다. 인간‑중심 평가에서는 LLM의 ‘사실 기반성’이 높을수록 가독성이 떨어지고, 반대로 가독성을 높이면 사실 정확도가 낮아지는 트레이드오프가 발견되었다. 이는 향후 LLM 튜닝 시 ‘정확성 vs. 사용성’ 균형을 어떻게 맞출지에 대한 중요한 연구 과제로 이어진다. 마지막으로, 오픈소스 코드와 공개 데이터셋을 활용한 재현 가능성(reproducibility)을 강조함으로써, 다른 연구자나 의료기관이 본 프레임워크를 그대로 적용하거나 확장할 수 있는 기반을 제공한다. 전반적으로 Motion2Meaning은 ‘AI‑지원 보행 분석 → 설명 가능 XAI → 임상 이의제기 가능 LLM’이라는 일련의 파이프라인을 구현함으로써, 파킨슨병 관리에 있어 AI의 ‘블랙박스’ 문제를 실질적으로 해소하고, 임상의가 최종 의사결정권을 유지하도록 설계된 모델‑인‑더‑루프(Human‑in‑the‑Loop) 시스템의 모범 사례라 할 수 있다.
📄 논문 본문 발췌 (Translation)
AI‑보조 보행 분석은 파킨슨병(Parkinson’s Disease, PD) 치료를 개선할 가능성을 제시하지만, 현재의 임상 대시보드는 투명성이 부족하고 임상의가 AI 결정에 대해 의미 있게 질문하거나 이의를 제기할 방법을 제공하지 않는다. 이러한 문제를 해결하기 위해 우리는 Motion2Meaning이라는 임상‑중심 프레임워크를 제시한다. 이 프레임워크는 해석 가능성, 감독, 절차적 구제 수단을 긴밀히 통합한 인터페이스를 제공한다. 우리는 웨어러블 센서에서 얻은 수직 지면 반력(vGRF) 시계열 데이터를 PD 운동 상태의 객관적 바이오마커로 활용한다. 시스템은 세 가지 핵심 구성 요소로 이루어진다: (1) 보행 데이터 시각화 인터페이스(Gait Data Visualization Interface, GDVI), (2) Hoehn & Yahr 중증도 단계를 예측하는 1차원 합성곱 신경망(1D‑CNN), (3) 새로운 Cross‑Modal Explanation Discrepancy(XMED) 보호 메커니즘과 대화형 대형 언어 모델(LLM)을 결합한 Contestable Interpretation Interface(CII). 우리의 1D‑CNN은 공개 PhysioNet 보행 데이터셋에서 89.0 %의 F1‑score를 달성하였다. XMED는 잘못된 예측에서 설명 불일치가 7.45 %로, 올바른 예측(1.56 %)에 비해 약 다섯 배 증가함을 감지함으로써 모델의 신뢰성을 효과적으로 식별한다. LLM‑기반 인터페이스는 임상의가 올바른 예측을 검증하고 모델 오류의 일부를 성공적으로 이의제기하도록 지원한다. 인간‑중심 평가에서는 LLM의 사실 기반성, 가독성, 그리고 임상 피드백에 대한 반응성 사이에 중요한 트레이드오프가 존재함을 확인하였다. 본 연구는 웨어러블 센서 분석, 설명 가능한 인공지능(XAI), 그리고 대화형 LLM을 결합하여 파킨슨병 보행 해석에 투명하고 감사 가능한 시스템을 구현할 수 있음을 입증한다. 구현 코드는 https://github.com/hungdothanh/motion2meaning 에서 공개된다.
