기초 모델을 활용한 유사분열 세포 분류 성능 벤치마크

초록

본 연구는 셀프‑슈퍼바이즈드 학습으로 사전 학습된 병리학 전용 파운데이션 모델들을 활용해 유사분열 세포(미토시스) 분류 작업을 평가한다. 데이터 양에 따른 성능 스케일링 법칙을 분석하고, 전통적인 선형 프로빙과 저‑랭크 어댑테이션(LoRA) 방식을 비교한다. 결과적으로 LoRA‑적응 모델이 적은 학습 데이터(10 %)만으로도 최고 수준의 성능을 달성했으며, 도메인 간 일반화에서도 우수한 결과를 보였다.

상세 분석

이 논문은 병리학 이미지에서 흔히 겪는 라벨링 비용 문제를 해결하기 위해, 대규모 비라벨 데이터로 사전 학습된 파운데이션 모델들을 미토시스 분류에 적용하는 방법론을 체계적으로 검증한다. 사용된 파운데이션 모델은 ViT‑B, ViT‑L, ViT‑H, ViT‑G 등 다양한 규모와 아키텍처를 포함하며, 각각 DINOv2, iBOT, MoCo‑v3 등 최신 SSL 기법으로 사전 학습되었다. 실험에서는 두 개의 공개 미토시스 데이터셋(MIDOG++ 및 ICPR)과 여러 종양 도메인을 교차 검증하여, (1) 학습 데이터 비율(1 %~100 %)에 따른 정확도·F1 점수 변화를 측정한 스케일링 법칙, (2) 파라미터 효율성을 강조한 LoRA 어댑테이션과 전통적인 선형 프로빙의 성능 차이를 비교하였다. 결과는 다음과 같다. 첫째, 모든 파운데이션 모델은 기본 선형 프로빙만으로도 작은 데이터셋에서 기존 CNN·ViT 베이스라인을 능가했으며, 특히 대규모 모델(ViT‑G 기반)은 10 % 데이터만 사용해도 95 % 이상 F1 점수를 유지했다. 둘째, LoRA를 적용하면 모델의 핵심 어텐션 가중치를 저‑랭크 행렬로 재학습함으로써, 파라미터 수는 0.1 % 수준으로 유지하면서도 성능 향상이 3 ~ 7 %포인트 발생했다. 이는 파운데이션 모델이 이미 풍부한 일반 표현을 학습했지만, 도메인 특화된 미세 구조(핵 분열 형태 등)를 반영하려면 제한된 파라미터 조정이 효과적임을 시사한다. 셋째, 도메인 외(보지 못한 종양 유형) 테스트에서는 선형 프로빙 대비 LoRA가 평균 4 %의 성능 격차를 줄였으며, 가장 최신 모델(ViT‑G)은 10 % 이하의 격차로 거의 도메인 불변성을 달성했다. 마지막으로, 전통적인 CNN(ResNet‑50)과 ViT(DeiT) 를 전면 파인튜닝한 경우에도 경쟁력 있는 결과를 보였지만, 학습 비용과 메모리 요구량이 크게 증가한다는 trade‑off가 존재한다. 논문은 또한 데이터 스케일링이 로그‑선형 형태를 따르며, 모델 크기가 클수록 작은 데이터에서도 포화점에 빠르게 도달한다는 중요한 관찰을 제공한다. 이러한 분석은 파운데이션 모델 선택 시, 목표 데이터 양·도메인 다양성·연산 자원 등을 종합적으로 고려해야 함을 강조한다.