Mueller 현미경 영상의 강도 기반 조직 분할: 사전 학습 ResNet‑34를 활용한 U‑Net

초록

본 연구는 Mueller 매트릭스의 총 강도 요소 M₁₁만을 입력으로 사용해, 사전 학습된 ResNet‑34 인코더를 갖는 U‑Net으로 murine 자궁경부 조직을 네 클래스(배경, 내부 구멍, 조직, 질벽)로 자동 분할한다. 70장의 라벨링된 섹션만으로도 테스트에서 89.71% 픽셀 정확도와 80.96% 평균 Dice 계수를 달성하였다.

상세 분석

이 논문은 Mueller 매트릭스 영상에서 가장 직관적인 강도 정보인 M₁₁ 요소만을 활용한다는 점에서 기존의 전처리‑집약적 접근과 차별화된다. 2560 × 2160 해상도의 16‑bit sCMOS 이미지에서 M₁₁을 추출하고, 512 × 512 픽셀로 bilinear 보간 후 3채널(복제) 형태로 변환한다. 여기서 ImageNet 평균·표준편차로 정규화함으로써 사전 학습된 ResNet‑34 가중치를 그대로 사용할 수 있게 설계하였다.

U‑Net 구조는 인코더 5단계(채널 64‑64‑128‑256‑512)와 디코더 스킵 연결을 갖추어, 공간 해상도를 단계적으로 복원한다. 손실 함수는 교차 엔트로피와 Dice 손실을 0.5:0.5 비율로 결합해 클래스 불균형을 완화하고 경계 정확성을 높였다. AdamW 옵티마이저(learning rate = 1e‑4, weight decay = 1e‑5)와 배치 크기 8, 50 epoch 학습이 적용됐으며, 랜덤 플립·90° 회전·강도 jitter(±15%)를 데이터 증강에 활용했다.

데이터는 임신 단계별(0‑18일) 70장의 얇은 조직 섹션으로 구성되었으며, 49장(70%)을 훈련, 10장(15%)을 검증, 11장(15%)을 테스트에 할당해 일일별 편향을 방지했다. 라벨링은 PyQt5 기반 GUI 툴을 직접 개발해 폴리곤·프리핸드 모드로 수행했으며, 클래스 우선순위(질벽 > OS > 조직 > 배경)를 적용해 4‑채널 마스크를 생성했다.

실험 결과, 훈련·검증 정확도는 각각 91.72%·89.66%에 수렴했으며, 테스트에서는 평균 픽셀 정확도 89.71 ± 5.51%와 평균 Dice 80.96 ± 13.37%를 기록했다. 배경(92.37% Dice)과 조직(88.63% Dice)은 안정적인 성능을 보였으나, 질벽은 존재 여부가 섹션 깊이에 따라 크게 변동해 Dice 69.41 ± 32.61%라는 높은 분산을 나타냈다. 실패 사례는 조직 손상이나 저조도 영역에서 오류가 발생했으며, 이는 전처리·노이즈 억제의 필요성을 시사한다.

핵심 기여는 (1) M₁₁ 단일 채널만으로도 충분한 형태학적 대비를 확보해 복잡한 Mueller 분해 없이도 높은 분할 성능을 달성, (2) ImageNet‑pretrained ResNet‑34가 극히 제한된 바이오이미지(70장)에서도 효과적인 특징 전이 역할을 수행, (3) 비전문가도 사용할 수 있는 라벨링 툴과 학습된 모델을 공개해 재현성과 확장성을 보장한다는 점이다. 제한점으로는 작은 데이터셋에 의한 도메인 쉬프트 민감성, 질벽과 같은 가변 구조에 대한 라벨링 불확실성, 그리고 조명·노이즈 변화에 대한 강인성 부족이 있다. 향후 다채널(M₁₁ 외) 통합 혹은 도메인 적응 기법을 도입하면 일반화 성능을 더욱 향상시킬 수 있을 것으로 기대된다.