조직학적 독성 평가를 위한 클래스‑인식 마할라노비스 거리 기반 이상 탐지 시스템

초록

**
본 연구는 쥐 간 조직 슬라이드 이미지에서 정상 조직과 알려진 병변을 정확히 구분하고, 훈련 데이터가 없는 희귀 병변을 이상(Out‑of‑Distribution)으로 탐지하는 AI 프레임워크를 제시한다. 사전 학습된 Vision Transformer(DINOv2)를 LoRA 방식으로 적은 파라미터만 fine‑tuning하여 픽셀 수준의 의미론적 분할 모델을 만들고, 클래스별 평균·공통 공분산을 이용한 마할라노비스 거리 점수에 클래스‑특화 임계값을 적용해 OOD를 판별한다. 검증 결과, 병변을 정상으로 오분류하는 비율은 0.16 %, 정상 조직을 병변으로 오분류하는 비율은 0.35 %에 불과해 전임상 독성 스크리닝에 실용적인 수준의 정확도를 보였다.

**

상세 분석

**
이 논문은 전통적인 독성 평가에서 병리학자의 주관적 판독에 크게 의존하던 한계를 딥러닝 기반 자동화로 극복하려는 시도이다. 핵심 기술은 크게 두 부분으로 나뉜다. 첫 번째는 DINOv2라는 대규모 Vision Transformer를 기반으로 한 특징 추출기이며, 여기서는 Low‑Rank Adaptation(LoRA)를 적용해 전체 모델을 재학습하지 않고도 도메인 특화된 세분화 헤드를 학습한다. LoRA는 가중치 행렬에 저차원 보조 행렬을 삽입해 파라미터 수를 크게 줄이면서도 표현력을 유지한다는 장점이 있다. 이를 통해 비교적 적은 양의 픽셀‑단위 라벨(건강 조직, 풍선화, 염증, 유사분열, 괴사 등)만으로도 높은 정확도의 의미론적 분할 모델을 구축했다.

두 번째는 이상 탐지를 위한 마할라노비스 거리 기반 방법이다. 각 클래스별 특징 벡터를 가우시안으로 가정하고, 클래스 평균 μ_i와 전체 클래스에 공통인 공분산 Σ를 추정한다. 기존 연구에서는 전체 점수 분포에 단일 임계값을 적용했지만, 조직학 데이터는 클래스마다 변동성이 크게 다르다. 저자들은 이를 해결하기 위해 클래스‑별 임계값 τ_i를 도입하고, FNR과 FPR의 평균을 최소화하는 방식으로 최적화하였다. 이 접근법은 특히 정상 조직과 병변 사이의 거리 차이가 작아지는 경우(예: 경미한 염증)에도 높은 민감도를 유지한다.

또한, WSIs는 수천 × 수천 픽셀 규모이므로 타일링이 필수적인데, 타일 경계에서 발생하는 아티팩트를 완화하기 위해 공간 이동(shift) 기반 데이터 증강과 테스트‑타임 평균을 적용했다. 여러 시프트에 대해 동일 픽셀의 소프트맥스 출력을 평균함으로써 경계 효과를 감소시키고, 전반적인 분할 일관성을 높였다.

실험에서는 마우스 간 조직 슬라이드에 존재하는 알려진 병변과, 사전에 라벨링되지 않은 희귀 병변(예: 미세 섬유화, 비정형 세포 변형 등)을 대상으로 평가했다. 결과는 다음과 같다. (1) 알려진 병변에 대한 픽셀‑단위 분할 정확도는 94 % 이상, (2) 클래스‑특화 마할라노비스 임계값 적용 시 전체 FNR은 0.16 %로 매우 낮으며, FPR도 0.35 % 수준에 머물렀다. 기존 OOD 탐지 기법(MSP, Energy, ODIN 등)과 비교했을 때, 특히 클래스 구분이 필요한 상황에서 현 방법이 월등히 높은 정밀도와 재현율을 보였다.

이 연구의 의의는 세 가지로 요약할 수 있다. 첫째, 대규모 사전 학습 모델을 LoRA로 효율적으로 전이학습함으로써 라벨링 비용을 크게 절감하면서도 의료 영상에 적합한 특징을 얻었다는 점이다. 둘째, 클래스‑인식 마할라노비스 거리와 맞춤형 임계값 설계가 “정상 vs. 이상” 이진 구분을 넘어, 다양한 병변 유형을 동시에 다룰 수 있는 통합 프레임워크를 제공한다는 점이다. 셋째, 전임상 독성 스크리닝이라는 실제 산업 현장에 바로 적용 가능한 수준의 성능을 입증함으로써, 병리학자의 워크플로우를 보조하고, 조기 위험 신호 탐지로 인한 약물 개발 비용 절감에 기여할 가능성을 보여준다. 향후 연구에서는 다기관 데이터셋을 통한 일반화 검증, 다른 장기(심장, 신장 등) 및 인간 조직에 대한 확장, 그리고 설명가능성 기법을 결합해 병리학자와 AI 간의 신뢰 구축을 도모할 여지가 있다.

**