EQ5D 분류를 위한 생물의학 엔터티 강화 사전학습 언어 모델과 다중 인스턴스 학습

초록

본 연구는 PubMed 초록에서 EQ‑5D 사용 여부를 자동으로 판별하기 위해, 일반 BERT와 도메인 특화 SciBERT·BioBERT 모델에 scispaCy 기반 생물의학 엔터티 정보를 추가한 전처리를 적용하였다. 9가지 조합을 실험하고, 문장‑레벨과 논문‑레벨(다중 인스턴스 학습, MIL) 두 단계에서 성능을 평가하였다. 결과는 F1‑score가 최대 0.82, 연구‑레벨 재현율이 거의 1.0에 달해 기존 bag‑of‑words 및 기존 PLM 베이스라인을 크게 능가함을 보여준다. 엔터티 강화가 도메인 적응과 일반화에 크게 기여한다는 결론을 도출한다.

상세 분석

이 논문은 체계적 문헌고찰(SLR)에서 EQ‑5D를 언급한 연구를 자동으로 선별하는 문제를 다루며, 최신 자연어 처리 기술을 적용한 실용적인 솔루션을 제시한다. 먼저, 데이터는 Kertész 등(2023)에서 구축한 200개의 라벨링된 PubMed 초록을 사용했으며, 양성(121)과 음성(79)으로 불균형이 존재한다. 저자는 scispaCy의 세 가지 파이프라인(en_core_sci_sm, en_core_sci_md, en_core_sci_scibert)을 이용해 각 문장을 엔터티 태그(예: