다중광자 이미지에서 신경세포 자동 식별을 위한 딥러닝 접근

초록

본 연구는 두광자 현미경 이미지에서 신경세포를 자동으로 분할하고, 흥분성·억제성 뉴런 및 글리아 세포로 분류하기 위해 U‑Net 기반 세분화와 전이학습 기반 분류 모델을 결합하였다. 세 가지 사전학습 모델(resnet18, resnet50, inceptionv3)을 비교한 결과, inceptionv3이 가장 높은 정확도를 보였다.

상세 분석

본 논문은 대용량 두광자 신경영상 데이터의 자동 처리 필요성에 주목하고, 이를 해결하기 위한 두 단계 파이프라인을 제안한다. 첫 번째 단계는 U‑Net 구조를 활용한 픽셀‑단위 세분화이다. U‑Net은 인코더‑디코더 형태의 대칭 구조로, 스킵 연결을 통해 저해상도 특징을 고해상도 단계에 전달함으로써 경계가 흐릿한 세포 형태를 정확히 복원한다. 논문에서는 이미지 전처리 단계에서 강도 정규화와 잡음 억제를 수행하고, 데이터 증강으로 회전·반전·스케일 변환을 적용해 모델의 일반화 능력을 강화하였다. 손실 함수는 Dice coefficient와 Cross‑entropy를 가중 결합하여 클래스 불균형을 보정하였다.

두 번째 단계는 세분화된 마스크를 기반으로 추출된 개별 세포 영역을 3‑클래스(흥분성 뉴런, 억제성 뉴런, 글리아)로 분류하는 전이학습이다. 저자들은 공개된 ImageNet 사전학습 가중치를 가진 ResNet‑18, ResNet‑50, Inception‑v3 세 모델을 선택하고, 최종 완전 연결층을 3개의 출력 뉴런으로 교체하였다. 학습 과정에서는 초기 레이어를 고정하고 후반부만 미세조정(fine‑tuning)함으로써 작은 도메인 데이터셋에서도 과적합을 방지하였다. 최적화에는 Adam 옵티마이저와 단계적 학습률 감소 스케줄을 적용하였다.

성능 평가는 세분화 단계에서 IoU(Intersection over Union)와 Dice score를, 분류 단계에서는 정확도, 정밀도, 재현율, F1‑score를 사용하였다. 실험 결과 Inception‑v3이 다른 두 모델에 비해 평균 정확도 93.2%와 F1‑score 0.91을 기록하며 가장 우수한 성능을 보였다. 이는 Inception‑v3의 다중 스케일 필터 구조가 세포 형태의 다양한 크기와 모양을 효과적으로 포착했기 때문으로 해석된다.

하지만 논문에는 몇 가지 한계점이 존재한다. 첫째, 데이터셋 규모와 다양성이 제한적이며, 특정 실험 조건(예: 특정 동물 종, 특정 형광 표지)에서만 검증되었다. 둘째, 세분화 단계에서 작은 세포나 겹쳐 있는 세포에 대한 오류가 여전히 발생한다. 셋째, 전이학습 모델을 미세조정할 때 레이어 고정 비율을 고정적으로 적용했으나, 층별 학습률 조정이 성능 향상에 기여할 가능성이 있다. 향후 연구에서는 멀티‑모달 이미지(예: 전자현미경·광학현미경 복합)와 대규모 라벨링된 데이터베이스를 구축하고, 세포 간 경계 분리를 위한 인스턴스‑세그멘테이션(예: Mask R‑CNN) 접근을 도입하는 것이 바람직하다.