피부암 디지털 병리 분석을 위한 Histo‑Miner: cSCC 전처리·세포·종양 분할 파이프라인

초록

Histo‑Miner는 피부 전이성 편평세포암(cSCC) 전용 전처리·핵·종양 분할·특징 추출 파이프라인이다. 47 392개의 핵 라벨과 144개의 종양 영역 라벨을 포함한 두 개의 공개 데이터셋(NucSeg, TumSeg)을 구축하고, CNN‑기반 Hovernet과 Vision Transformer를 각각 핵·세포 유형 분류와 종양 영역 이진 분할에 적용하였다. 핵 분할 mPQ 0.569, 핵 분류 macro‑F1 0.832, 종양 분할 mIoU 0.907의 성능을 달성했으며, 317개의 조직·세포 상호작용 특징을 추출한다. 이 특징을 이용해 45명의 cSCC 환자에 대한 면역치료 반응을 AUC 0.755로 예측하고, 림프구 비율·과립구‑림프구 비율·세포 간 거리 등이 주요 예측 인자로 확인되었다.

상세 분석

본 논문은 디지털 병리 분야에서 피부 조직, 특히 cutaneous Squamous Cell Carcinoma(cSCC)에 특화된 데이터와 파이프라인이 부족하다는 문제를 인식하고, 이를 해결하기 위해 Histo‑Miner라는 종합 분석 프레임워크를 제시한다. 먼저, 21개의 WSIs에서 47 392개의 핵을 5가지 세포 유형(과립구, 림프구, 플라즈마세포, 기질세포, 종양세포)으로 라벨링한 NucSeg 데이터셋과, 144개의 WSIs에서 종양 영역을 이진 라벨링한 TumSeg 데이터셋을 구축하였다. 데이터는 다중 병원에서 수집돼 다양성을 확보했으며, 라벨링 과정에서 병리학자 간 합의와 IHC 검증을 통해 품질을 보증하였다.

핵 분할·분류에는 Hovernet 기반 CNN을 사용했으며, 기존 H&E 핵 분할 모델 대비 Panoptic Quality(PQ)에서 우수한 성능을 보였다. 특히, 종양 영역 외부에서 예측된 종양 세포를 비종양 상피세포로 재분류하는 후처리 단계는 피부 조직의 구조적 특성을 반영한 설계로, 세포 형태만으로는 구분이 어려운 경우를 보완한다. 종양 영역 분할에는 Vision Transformer(ViT) 기반 Segmen ter를 적용했으며, 대규모 이미지 패치와 색상 정규화를 통해 메모리 효율성을 높였다. 두 모델 모두 데이터 증강과 교차 검증을 통해 일반화 능력을 강화하였다.

성능 평가는 다중 지표로 수행되었다. 핵 분할에서 mPQ 0.569은 기존 최고 수준 모델(예: Cellpose, Stardist)과 비교해 동등하거나 약간 높은 수준이며, 핵 유형 분류에서는 macro‑F1 0.832로 6가지 클래스를 균형 있게 구분한다. 종양 영역 분할은 mIoU 0.907을 기록해, 임상 병리학적 판단에 충분히 활용 가능한 정확도를 제공한다.

핵심적인 혁신은 317개의 조직·세포 상호작용 특징을 자동으로 추출한다는 점이다. 특징은 세포 비율, 종양 내·외부 비율, 세포 간 평균 최소 거리 등으로 구성되며, 절대 세포 수가 아닌 밀도와 비율을 사용해 슬라이드 크기와 해상도에 독립적인 표현을 만든다. 이러한 압축된 3.7 KB JSON 파일은 대용량 WSIs를 효율적으로 저장·전달할 수 있게 한다.

임상 적용 사례로, 45명의 cSCC 환자에 대한 면역관문 억제제(CPI) 치료 반응을 예측하였다. 5‑fold 교차 검증 결과 평균 AUC 0.755 ± 0.091을 달성했으며, SHAP·LIME 등 해석 가능한 모델링 기법을 통해 주요 변수로 림프구 비율, 종양 주변 과립구‑림프구 비율, 과립구와 플라즈마세포 간 거리 등을 식별했다. 이는 면역세포의 공간적 배치가 치료 반응에 미치는 영향을 정량화한 최초 사례 중 하나로, 병리학적 해석과 치료 전략 수립에 직접적인 인사이트를 제공한다.

마지막으로, 코드와 데이터셋을 GitHub에 공개하고, 파이프라인을 모듈화하여 종양 분할·핵 분류·특징 추출을 독립적으로 활용할 수 있게 함으로써, 다른 암종이나 기관에 대한 확장성을 확보하였다. 전체적으로 Histo‑Miner는 데이터 구축, 모델 설계, 임상 적용까지 일관된 워크플로우를 제공함으로써 디지털 병리 연구와 실제 진료 사이의 격차를 크게 줄이는 기여를 한다.